11 月 3 日消息，中國電信人工智能研究院（TeleAI）在今年 5 月發(fā)布業(yè)內(nèi)首個(gè)支持 30 種方言自由混說的語音識(shí)別大模型 —— 星辰超多方言語音識(shí)別大模型。

時(shí)隔不到半年，TeleAI 星辰語音大模型的多方言能力再次升級(jí)，攻克了湛江話、宜賓話、洛陽話、煙臺(tái)話等方言，將方言種類從 30 種提升至 40 種，并引入對(duì)英文的識(shí)別。

與傳統(tǒng)的有標(biāo)注訓(xùn)練方法相比，TeleAI 通過預(yù)訓(xùn)練語音識(shí)別模型，利用海量無標(biāo)注數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練，再通過少量有標(biāo)注數(shù)據(jù)進(jìn)行微調(diào)。

由于方言語音數(shù)據(jù)普遍存在無標(biāo)注數(shù)據(jù)多而有標(biāo)注數(shù)據(jù)少的特點(diǎn)，這種“預(yù)訓(xùn)練 + 微調(diào)”的模型方案與方言場景的需求能夠高度契合。

TeleAI 還在模型結(jié)構(gòu)和成本優(yōu)化上進(jìn)行了創(chuàng)新，實(shí)現(xiàn)對(duì)人工標(biāo)注數(shù)據(jù)的需求量大幅降低約 50 倍，且保障模型效果與有監(jiān)督訓(xùn)練的方言模型水平相當(dāng)。