趣丸科技聯(lián)合港中大(深圳)開源語音大模型MaskGCT,刷新全球多項(xiàng)SOTA
10月24日,趣丸科技宣布與香港中文大學(xué)(深圳)聯(lián)合研發(fā)的語音大模型“MaskGCT”正式開源,面向全球用戶開放使用。區(qū)別于傳統(tǒng)TTS模型,該模型采用掩碼生成模型與語音表征解耦編碼的創(chuàng)新范式,在聲音克隆、跨語種合成、語音控制等任務(wù)中展現(xiàn)出卓越性能。
據(jù)介紹,MaskGCT在三個TTS基準(zhǔn)數(shù)據(jù)集上都達(dá)到了SOTA效果,性能超過當(dāng)前最先進(jìn)的同類模型,某些指標(biāo)甚至超過人類水平。顯著特點(diǎn)如下:
1、秒級超逼真的聲音克?。禾峁?秒音頻樣本即可復(fù)刻人類、動漫、“耳邊細(xì)語”等任意音色,且能完整復(fù)刻語調(diào)、風(fēng)格和情感。
2、更精細(xì)可控的語音生成:可靈活調(diào)整生成語音的長度、語速和情緒,支持通過編輯文本編輯語音,并保持韻律、音色等方面的極度一致。
3、高質(zhì)量多語種語音數(shù)據(jù)集:訓(xùn)練于香港中文大學(xué)(深圳)和趣丸科技等機(jī)構(gòu)聯(lián)合推出的10萬小時數(shù)據(jù)集Emilia,是全球最大且最為多樣的高質(zhì)量多語種語音數(shù)據(jù)集之一,精通中英日韓法德6種語言的跨語種合成。
據(jù)介紹,MaskGCT(Masked Generative Codec Transformer)是一個大規(guī)模的零樣本TTS模型,采用非自回歸掩碼生成Transformer,無需文本與語音的對齊監(jiān)督和音素級持續(xù)時間預(yù)測。其技術(shù)突破性在于采用掩碼生成模型與語音表征解耦編碼的創(chuàng)新范式。實(shí)驗(yàn)表明,MaskGCT在語音質(zhì)量、相似度和可理解性方面優(yōu)于當(dāng)前最先進(jìn)的TTS模型,并且在模型規(guī)模和訓(xùn)練數(shù)據(jù)量增加時表現(xiàn)更佳,同時能夠控制生成語音的總時長。MaskGCT已在香港中文大學(xué)(深圳)與上海人工智能實(shí)驗(yàn)室聯(lián)合開發(fā)的開源系統(tǒng)Amphion發(fā)布。
該模型研發(fā)團(tuán)隊(duì)在語音領(lǐng)域擁有深厚的研究積累和原創(chuàng)性成果。這主要依托趣丸科技十年深耕音頻技術(shù)領(lǐng)域和億級高質(zhì)量語音用戶的服務(wù)經(jīng)驗(yàn),以及香港中文大學(xué)(深圳)國際一流水平的師資隊(duì)伍。早在今年5月份,趣丸科技就與香港中文大學(xué)(深圳)宣布共建聯(lián)合實(shí)驗(yàn)室,針對人工智能音頻大模型相關(guān)的前沿課題進(jìn)行研究,旨在突破行業(yè)難題,促進(jìn)產(chǎn)學(xué)研深度融合,打造技術(shù)領(lǐng)先的生成式音頻大模型,填補(bǔ)業(yè)界空白。
目前,MaskGCT在短劇出海、數(shù)字人、智能助手、有聲讀物、輔助教育等領(lǐng)域擁有豐富的應(yīng)用場景。為了加快落地應(yīng)用,在安全合規(guī)下,趣丸科技打造了多語種速譯智能視聽平臺“趣丸千音”。一鍵上傳視頻即可快速翻譯成多語種版本,并實(shí)現(xiàn)字幕修復(fù)與翻譯、語音翻譯、唇音同步等功能。該產(chǎn)品進(jìn)一步革新視頻翻譯制作流程,大幅降低過往昂貴的人工翻譯成本和冗長的制作周期,成為影視、游戲、短劇等內(nèi)容出海的理想選擇平臺。
搶先讀
- 趣丸科技聯(lián)合港中大(深圳)開源語音大模型MaskGCT,刷新全球多項(xiàng)SOTA
- 周鴻祎談專業(yè)化大模型落地:應(yīng)細(xì)分場景 拆解業(yè)務(wù)流程
- 淘寶直播間紅包再加碼!天貓雙11再降5億紅包雨
- 前三季度我國境內(nèi)股票市場上市公司合計(jì)實(shí)現(xiàn)營收52.64萬億元
- 浙江上海等地臺風(fēng)雨猛烈 明起冷空氣來襲北方將迎雨雪過程
- 以舊換新政策出臺半年 八類家電產(chǎn)品品種同比增長33%
- 游泳世界杯新加坡站:中國隊(duì)日進(jìn)三金 潘展樂100米自由泳奪冠
- 餐飲業(yè)最新趨向,這份報(bào)告帶你了解
- 海信賈少謙:以中國管理,建世界一流企業(yè)
- 香港推出三項(xiàng)措施優(yōu)化“高才通計(jì)劃”和“優(yōu)才計(jì)劃”
- 《外國投資者對上市公司戰(zhàn)略投資管理辦法》修訂發(fā)布
- 三六零舉辦2024感恩用戶節(jié) 周鴻祎:公司進(jìn)步離不開用戶支持
- OPPO年度影像旗艦Find X8系列發(fā)布 為用戶帶來全新拍攝體驗(yàn)
- 昆侖萬維2024年前三季度營收38.3億,加快AI技術(shù)應(yīng)用落地
- 三六零舉辦2024感恩用戶節(jié) 周鴻祎:公司進(jìn)步離不開用戶支持
- 雙11首階段 天貓蟬聯(lián)家電市場規(guī)模第一,政府補(bǔ)貼疊加雙11優(yōu)惠帶動效應(yīng)顯著
- 蘇寧易購發(fā)布三季報(bào) 凈利潤5.84億元創(chuàng)新高
- 海淀馬拉松活力開跑 滴滴保障車隊(duì)集結(jié)再出發(fā)
- 阿里健康關(guān)注兒童重疾救助,“小鹿燈”浙江項(xiàng)目啟動第三期計(jì)劃
- 小米召開新品發(fā)布會 “AI全生態(tài)”邁出堅(jiān)實(shí)一步
- 天貓雙11勃肯賽道成交爆發(fā) 勃肯鞋品類成交同比增長近40%
- 100多個AI場景,超7000個智能體,京東云大模型持續(xù)落地
- 快手電商公布雙11大促半程戰(zhàn)績,成交同比增長超200%的賣家數(shù)超5萬個
- 第二十一屆中國國際半導(dǎo)體博覽會將于11月18日在北京舉行
- 小馬智行與北汽新能源達(dá)成L4無人駕駛車型開發(fā)技術(shù)合作
- 京東云vGPU技術(shù)讓華夏基金算力飆升70%
- 訊飛翻譯機(jī)4.0星火版上市 智能翻譯設(shè)備迎來新突破
- 《披荊斬棘4》收官 眾人展現(xiàn)逐夢旅程
- 第三屆華語紀(jì)錄電影大會推優(yōu)盛典暨閉幕式舉行 兩部影片獲年度特別推薦
- 財(cái)經(jīng)聚焦|人氣回暖 市場信心有所恢復(fù)——國慶假期多地樓市探訪
- 中國金融業(yè)最高科技獎項(xiàng)揭曉 馬上消費(fèi)榮獲“金發(fā)獎”二等獎
- 寧波銀行紹興分行:“碳路”先行,向綠而興,深耕綠色金融大文章
- “中國好家風(fēng)”走進(jìn)山西應(yīng)縣,點(diǎn)亮傳統(tǒng)文化傳承之路
- 埃塞俄比亞青年們的魯班工坊情緣
- 保險(xiǎn)力量護(hù)航進(jìn)博會!中國太保提供超1.27萬億元綜合保險(xiǎn)保障方案
- 2024年“樂山味·樂山造”全國行美食推介活動在京舉辦
- ?西平縣重渠小學(xué):節(jié)約用水 珍惜水資源
- 第十五屆海峽兩岸文博會在廈門啟幕
- 學(xué)習(xí)《決定》每日問答丨健全綠色低碳發(fā)展機(jī)制需要把握哪些重點(diǎn)
- 2024中國海博會聚焦“開放合作 共享機(jī)遇”
- ?陽光心理 快樂成長——西平縣重渠羅拐小學(xué)開展心理健康主題教育活動
- 袁悅晉級香港網(wǎng)球公開賽八強(qiáng)
- 東風(fēng)著陸場完成最后一次全系統(tǒng)綜合演練 準(zhǔn)備就緒迎接神十八航天員回家
- 意甲綜合:國米完勝恩波利 尤文平帕爾馬
- 中國足協(xié)獲亞足聯(lián)精英青訓(xùn)計(jì)劃二星會員資格
- 中國足協(xié)信息化工作會召開 努力實(shí)現(xiàn)“全國一盤棋”治理
- 中國足協(xié)信息化工作會召開 努力實(shí)現(xiàn)“全國一盤棋”治理
- 首屆女子冰球亞錦賽開賽 中國隊(duì)迎“開門紅”
- 亞冬會火炬特許商品在京發(fā)布
- 從羽毛販子到羽球廠子,小球成就中部縣城大產(chǎn)業(yè)
- 支招|期中考試臨近,如何緩解考試焦慮?
- 教育思考|什么樣的培訓(xùn)更能促進(jìn)校長成長
- 財(cái)政部、教育部、人力資源社會保障部有關(guān)司局負(fù)責(zé)人就調(diào)整學(xué)生資助政策有關(guān)問題答記者問
- 教育APP入校堅(jiān)持“選必嚴(yán)審”,不得與學(xué)分和成績掛鉤
- 支招|期中考試臨近,如何緩解考試焦慮?
- 教育部等17部門聯(lián)手打造家校社協(xié)同育人“教聯(lián)體”
- 《時代摘要》第三季對話李敬澤:AI時代 文學(xué)創(chuàng)作會有更多可能
- ?分享經(jīng)驗(yàn) 共同成長——西平縣二郎小學(xué)召開2024秋期班主任經(jīng)驗(yàn)交流會
- 商務(wù)部:北京等五城市消費(fèi)品進(jìn)口占全國50%
- 河南省“新時代宣講師”到鄧州市開展宣講活動
- 前六屆進(jìn)博會引入展品超過35萬種
- 西平縣:跨區(qū)聯(lián)合巡河 共護(hù)水清河暢
- ?西平縣權(quán)寨鎮(zhèn)開展“11.1”《中華人民共和國反間諜法》宣傳活動
- 商務(wù)部:北京等五城市消費(fèi)品進(jìn)口占全國50%
- 北京10月份二手房網(wǎng)簽創(chuàng)19個月新高
- 《時代摘要》第三季對話李敬澤:AI時代 文學(xué)創(chuàng)作會有更多可能
- 光伏“綠電”助力低碳發(fā)展——貴州部分企業(yè)的“追光”實(shí)踐
- 10月份商品房成交同比、環(huán)比實(shí)現(xiàn)“雙增長”
- 商務(wù)部:消費(fèi)月期間 五城市將新設(shè)全球、亞洲、全國首店70多個
- 新華全媒+|舌尖上看“開放”——第七屆進(jìn)博會食品及農(nóng)產(chǎn)品展區(qū)前瞻
- 三部門部署建設(shè)新材料大數(shù)據(jù)中心
- “自然悠趣,玩野去!”澳琴露營節(jié)開發(fā)“露營+”新業(yè)態(tài)
- AI技術(shù)在汽車上的應(yīng)用趨勢越發(fā)顯著
- 400名跑者相約“鏈家奧森熒光跑” 打卡2024北京朝陽國際燈光節(jié)
- 全國住房城鄉(xiāng)建設(shè)行業(yè)職業(yè)技能大賽在合肥舉辦
- 第27屆國際奧協(xié)全體大會開幕 巴赫呼吁團(tuán)結(jié)與創(chuàng)新
- “2024世界旅游聯(lián)盟·湘湖對話”海南三亞啟幕
- 罕見“銀十”超“金九” 中國商品房銷售同比轉(zhuǎn)正
- 鐵路部門啟動“雙11”網(wǎng)購高峰期快件運(yùn)輸服務(wù) 為期20天
- 2025版熊貓金幣來啦!京東金融成互聯(lián)網(wǎng)首發(fā)平臺
- 亞冬會火炬特許商品在京發(fā)布
- 山西新增15個家電“以舊換新”補(bǔ)貼品類 每件最高補(bǔ)貼2000元
- 青海稅惠政策加力 激活高原旅游發(fā)展?jié)摿?/a>
- 知乎AI搜索引入專業(yè)論文庫
- 前三季度金條金幣消費(fèi)大幅增長
- 山東探索建立農(nóng)村幸福院——讓更多老年人享受到家門口的服務(wù)
- “雙11”價(jià)格套路頻現(xiàn)是何因?
- “實(shí)用+浪漫元素”衣飾至迷人
- 金融產(chǎn)品查詢平臺上線運(yùn)行
- 日本10月平均氣溫達(dá)120余年來最高
- 美國科技巨頭持續(xù)增加AI基礎(chǔ)設(shè)施投資
- 繼續(xù)火熱的沖鋒衣,掀起 “三合一”混搭風(fēng)
- 馬來西亞拿督翁忠義:“一帶一路”倡議加強(qiáng)東盟韌性 推動區(qū)域可持續(xù)發(fā)展
- 駐馬店市軍隊(duì)干休所機(jī)關(guān)黨支部踐行黨員“雙報(bào)到”參加小界牌社區(qū)志愿服務(wù)活動
- 燃料電池汽車廣闊市場蓄勢待發(fā)
- 前9月可再生能源發(fā)電新增裝機(jī)超2億千瓦
- 鋼鐵業(yè)節(jié)能環(huán)保指標(biāo)持續(xù)改善
- 上海楊浦智能網(wǎng)聯(lián)汽車產(chǎn)業(yè) 初步形成產(chǎn)業(yè)聚集
- 唐河縣法院:當(dāng)場履行賠償款!
- 駐馬店市驛城區(qū)古城街道:走訪特困戶 情暖老人心