喜馬拉雅珠峰語音生成技術實現(xiàn)5秒極速克隆亮相云棲大會

聚集全球科技和數(shù)字領域的精英，共同探討云計算和人工智能的未來發(fā)展趨勢，2023云棲大會于2023年10月31日至11月2日舉行。喜馬拉雅將在本次大會上展示其最新的自研語音技術成果，包括喜馬拉雅珠峰語音生成式大模型和第二代智能語音交互系統(tǒng)，為參會者展示AIGC與文娛音頻產業(yè)深度融合的最新成果。

據悉，喜馬拉雅珠峰語音生成式大模型是一項創(chuàng)新性技術，具備快速實現(xiàn)語音音色和風格定制的能力。這一技術支持豐富場景下的音色實時轉換，為聲音賦予了創(chuàng)造性的”變聲"能力，宛如給聲音涂上不同的“畫皮”。此前，喜馬拉雅珠峰實驗室團隊已通過AIGC方式創(chuàng)作了超過3.7萬部有聲書專輯，而AIGC作品的每日播放時長已超過250萬小時。

據喜馬拉雅首席科學家、珠峰實驗室負責人盧恒介紹，“喜馬拉雅語音生成式大模型目前已經取得了顯著的突破，在音色定制方面實現(xiàn)了5秒內的‘極速克隆’聲音。通過極少量的數(shù)據，該模型能夠克隆出具有90%相似度的基本音色，并在短短的10秒內快速生成定制音頻。未來，這項技術在短視頻創(chuàng)作、數(shù)字人配音、人機交互對話、名人IP復刻等領域有望發(fā)揮出巨大的潛在價值，有效解決商業(yè)場景中的溝通需求痛點?！?/p>

喜馬拉雅珠峰實驗室資深產品專家呂睿韜現(xiàn)場介紹到:該語音大模型采用基于語音向量和語義標記的新型語音編解碼器，其中語音向量包含用于高保真語音重建的聲學細節(jié)，而語義標記則側重于語言建模的語音的語言內容，最終實現(xiàn)高效生成最富有語言表現(xiàn)力和最高保真度的語音(對話)內容。應用場景上，該語音大模型可應用于語音內容生成、口語對話、語音音色實時轉換、說話風格遷移、語音到語音跨語種翻譯、說話人匿名化等各種任務。

記者了解到，喜馬拉雅還將在云棲大會上展示其第二代智能語音交互系統(tǒng)，這一系統(tǒng)以阿里云的“通義千問”大模型為基礎，以喜馬拉雅兒童形象代言人“波波”為中心，增強了他的自然連貫對話能力，凸顯了“波波”這一IP形象的特征。該智能語音交互系統(tǒng)已通過喜馬拉雅兒童APP和喜馬拉雅提供服務，波波球為家庭親子用戶提供陪伴對話功能。