智能医学工程学院
|收藏|设为首页
让机器像人一样交流
发布时间:2017-11-28 浏览次数:61

    自然语言处理是人工智能领域的一个庞大分支,其中面临很多机遇和挑战。斯坦福大学李纪为博士在他的毕业论文《Teaching Machines to Converse》中从多个方面尝试解决如今对话系统面临的诸多问题:(1)如何产生具体、贴切有意思的答复;(2)如何赋予机器人格情感,从而产生具有一致性问题的答复;(3)最早提出使用对抗性学习方法来生成与人类水平相同的回复语句--让生成器与鉴别器不断地进行类似[图灵测试]的训练,(4)最后提出了赋予机器人通过与人的交流自我更新的自学习模型。

    语言模型的基础是循环神经网络和长短期记忆网络。针对问话生成回复的时候,神经对话模型总会倾向于生成无意义的回复,比如我不知道,我不知道你说的是啥。所以在考虑回复与信息相关性的同时也要考虑信息是否有意义。因此李博士提出通过最大交互信息(Maximum Mutual Information)作为测量输入和输出之间的相互依赖性的优化目标来补充这种直觉,以此作为目标函数神经生成模型的实际训练和解码策略。而针对说话一致性问题和让对话更持久的问题,李博士分别采取了两个persona模型和神经网络强化学习生成方法优化长期奖励。同时通过对抗学习生成对话,并且给予机器人提问的能力,利用人机回圈(Human-in-the-Loop)的对话学习,使机器人跟人对话,得到反馈,机器人可以通过人的反馈来强化自己。而在对话历史中只有非常少数的关键词在聊天机器人要讲什么时有非常大的指导意义。基于关键词的信息提取模型首先提取这些关键词,接着将其整合进语境神经模型中,从而为较大历史语境中的信息利用提供更多灵活性。

李博士是第一位在斯坦福大学仅用三年毕业的计算机科学博士。若想深入了解可查看李博士论文,论文链接为:https://github.com/jiweil/Jiwei-Thesis