無聲勝有聲 清華團隊推出新穎唇語解讀系統(tǒng)

人說話時嘴唇動作跟語音同步，可以通過識別唇動信息進行語言信息交流。唇語對講話者友好，但是對解讀唇語的聽眾來說卻并不輕松，唇語解讀一直以來是個難題，掌握唇語解讀技能的成本較高。

據(jù)了解，為降低唇語解讀難度，現(xiàn)有技術(shù)手段常采用磁場、視覺圖像、超聲波等方法。以最流行的非接觸式視覺圖像方法為例，其唇語識別準(zhǔn)確率較高，但依然容易受到面部角度、光強、頭動和遮擋等因素干擾。特別是在此次新冠病毒流行期間，佩戴的口罩給基于視覺的唇動解讀帶來全新挑戰(zhàn)。因此，通過直接捕捉面部肌肉細(xì)微動作解讀唇語技術(shù)具有重要的科學(xué)研究價值與廣闊的應(yīng)用前景。

如果在不久的將來，嘴唇掀動——“開門”，也許電子門禁能秒懂，馬上識別身份并解鎖；與汽車對話——“左拐”，或許可控制車的方向逐漸向目標(biāo)移動；對于聲帶、喉舌損傷的失聲人群，唇語可能將是一種不占用雙手的、日常無障礙交流的有效方式……

這些想法，在近日清華大學(xué)機械工程系智能與生物機械團隊推出一種新穎的唇語解讀系統(tǒng)之后，將很有可能夢想成真。相關(guān)研究成果發(fā)表在最新的《自然·通訊》期刊上。

據(jù)了解，這項技術(shù)的主要試驗和測試工作由清華機械工程系智能與生物機械實驗室完成，中科院納米能源與系統(tǒng)研究所的王中林院士對整個科研工作過程進行建議和指導(dǎo)。

那么，究竟這項唇語解讀系統(tǒng)的新穎之處何在？“這個基于深度學(xué)習(xí)輔助自供電柔性傳感器的唇語解讀技術(shù)，目標(biāo)是解決聲帶、喉舌損傷失聲人群的日常無障礙交流問題，其不占用雙手，不受面部角度、光強、遮擋和頭動等外部因素的干擾，新穎之處在于開發(fā)自供電的柔性傳感器（靈敏度0.61183 V/kPa）采集肌肉的微小動作信號，并采用基于原型學(xué)習(xí)的深度學(xué)習(xí)模型，使用較少的數(shù)據(jù)訓(xùn)練，測試準(zhǔn)確率可達94.5%，實現(xiàn)即時捕捉失聲人群的唇動并轉(zhuǎn)譯成語音，可用于失聲人群的日常無障礙語音交流。”3月29日，該論文第一作者、清華大學(xué)機械工程系智能與生物機械團隊助理研究員路益嘉在接受科技日報記者采訪時表示。

這個唇語解讀系統(tǒng)是否會運用大數(shù)據(jù)、人工智能等技術(shù)，突破的技術(shù)瓶頸是什么？路益嘉答道，“實現(xiàn)對唇動信號的識別需要用到人工智能技術(shù)和機器學(xué)習(xí)算法。在實際測試中發(fā)現(xiàn)，由于不同人的面部骨骼肌肉、肌肉運動形式、肌肉動作先后順序和習(xí)慣語速等存在不同，即使是同一個詞和同一句話，采集到的信號也有區(qū)別，為了得到通用的可以接受的測試準(zhǔn)確率，需要采集海量的數(shù)據(jù)進行模型訓(xùn)練。然而，這樣的成本偏高。”

據(jù)介紹，研究人員沒有采用訓(xùn)練通用模型的技術(shù)路線，而是采用訓(xùn)練個性化的小樣本量數(shù)據(jù)模型的方法，即對每個人的每個詞（或每句話）分別采集小樣本量（相對海量數(shù)據(jù)而言）的數(shù)據(jù)進行模型訓(xùn)練，考慮到每人說話的唇動都具有獨特的習(xí)慣特征，這樣訓(xùn)練出的模型缺少通用性但更有針對性，而不考慮通用性的要求降低模型對訓(xùn)練數(shù)據(jù)量的需求，小樣本量也能得到可接受的測試準(zhǔn)確率。研究人員使用基于原型學(xué)習(xí)的空洞循環(huán)神經(jīng)網(wǎng)絡(luò)，來減少模型對訓(xùn)練樣本量的需求。例如，在測試中對20個常用水果名稱的唇動信號進行分類訓(xùn)練，每個水果名稱的唇動信號選取100個樣本，測試準(zhǔn)確率達94.5%。

這項研究將在哪些領(lǐng)域應(yīng)用，發(fā)揮作用？“該研究通過自供電傳感器采集唇動微動信號，并使用深度學(xué)習(xí)模型將信號識別為有含義的語音信號或文字信號，比較適合服務(wù)失聲人群，在日常生活交流中可恢復(fù)失聲人群的基本語音交流能力，并保留失聲前的說話習(xí)慣。”路益嘉表示。

此外，其還可應(yīng)用于個人身份識別。研究人員制作出一個唇動指令開門的應(yīng)用演示。由于該方法融合特定密碼口令的靜態(tài)特征和個人特殊的唇部動態(tài)特征，可以實現(xiàn)雙重特征驗證，特別是戴口罩不發(fā)聲說密碼的方式可進一步提升系統(tǒng)安全性，適用于安全驗證要求較高的場合。

該研究成果還可用于人機交互的研究。研究人員制作出一個唇動信號控制模型車運動方向的應(yīng)用演示，通過檢測唇動發(fā)出的方向指令，機器模型車可改變行進方向。這為現(xiàn)有人機交互方案提供了新的可能性。