人工智能读唇语 单词错误率减少

对于数百万失聪者来说，唇读可以提供一个与外界交流的窗口。但这种做法很难，结果也往往不准确。现在，研究人员编写了一种新的人工智能(AI)程序，其性能优于专业的唇读者和迄今为止最好的AI，且错误率仅为之前最佳算法的一半。

人工智能读唇语 单词错误率减少

编写可以阅读唇语的计算机代码令人抓狂。因此，在新研究中，科学家向机器学习“求助”，让计算机从数据中学习。他们为该系统提供了数千小时的视频和抄写本，并让计算机自己解决这个问题。

该项目始于14万小时的YouTube视频，视频展示了人们在各种情况下进行的交谈。然后，研究人员设计了一个程序，通过每个音素或单词声音的嘴部动作创建几秒钟的剪辑，并带有标注。该程序过滤掉了非英语语音、非讲话者面孔、低质量视频和未直接拍摄的视频。然后，他们裁剪了讲话者嘴巴周围的视频。这样产生了近4000个小时的录像，包括超过12.7万个英文单词。

此外，该过程部分依赖于神经网络。AI算法包含许多连接在一起的简单计算元素，这些元素以类似人脑的方式学习和处理信息。当研究人员为该系统提供未标记的视频时，这些网络会裁剪嘴巴动作片段。系统中的下一个程序也使用了神经网络，为每个视频帧提供了可能的音素列表及其概率。最后一组算法将可能的音素序列进行整理，并生成了英语单词序列。

经过训练，研究人员用它之前没有看过的37分钟的视频测试了该系统。他们在发布于arXiv网站的论文中报告说，单词错误率仅为41%。这个成绩可能听起来并不怎么样，但之前最好的算法——专注于单个字母而不是音素——的错误率为77%。在同一项研究中，专业唇读者的错误率为93%(尽管在现实生活中他们能参考语境和肢体语言，这有助于读唇)。这项工作由总部位于伦敦的人工智能公司DeepMind完成，但该公司拒绝就这一记录发表评论。

Bear表示，该程序对音素的理解可能看起来不同，具体取决于之前和之后所说的内容。(例如，在说“boot”中的“t”时，嘴的形状与说“beet”中的“t”不同。)系统有单独的阶段预测嘴唇形状代表的音素和通过因素预测单词。这意味着如果想教系统识别新的单词，你需要重新训练最后一个阶段。但她说，这个AI也有弱点：它需要清晰、直白的视频，41%的错误率远非完美。

Akbarni表示，将程序整合到一部手机中可以让听力障碍人士随身携带“翻译”。这样的翻译也可以帮助那些不能说话的人，例如声带受损者。对于其他人来说，它可以简单地帮助解析各种聊天。

这种技术也可应用于其他程序，例如分析安全视频、解释历史镜头，或在音频下降时听到Skype伙伴的语音。

声明： 本网站原创内容，如需转载，请注明出处；本网站转载内容（文章、图片、视频等资料）的版权归原网站所有。如我们转载或使用了您的文章或图片等资料的，未能及时和您沟通确认的，请第一时间通知我们，以便我们第一时间采取相应措施，避免给双方造成不必要的经济损失或其他侵权责任。如您未通知我们，我们有权利免于承担任何责任。 我们的联系邮箱：news@cecb2b.com。