您正在浏览:主页 > 高手入门 > 腾讯算法高级研究员陈松坚：智能问答技术及其应用
作者：雷霆之怒公益服 来源：http://www.edmi.com.cn 时间：2018-12-04 13:03
以下是演讲稿全文： 而另一个思路更加直观，即引入其他领域的语料，所谓多语料迁移。Fine-tune即参数微调是其中一种做法，即先用通用语料训练网络，固定底层表达层的参数，然后再使用领域语料调整上层参数；另一种思路参考了对抗学习的思想，即引入一个新的任务“混淆分类器”去判别当前样本是来自源语料还是目标语料，通过在损失函数中增加反向的混淆分类损失项，让混淆分类器尽可能地无法区分样本的来源，从而保证共享了参数的表达网络能够学习到两部分语料中共性的部分。
随着人工智能的飞速发展以及广泛落地应用，越来越多的设备将会被植入智能问答技术，人机交互场景随处可见，智能问答在未来将会成为一个非常重要的入口。
在我们实际的落地项目中，得益于深度迁移模型的语义匹配能力和行业知识图谱的的精准匹配和辅助追问，小知机器人能够做到95%左右的问答准确率，并且节省了50%以上的服务人力，切实为政府和企业提升效率和降低成本。
他首先从智能问答是什么，为什么和怎么做的三个问题出发，阐明了他对当前智能问答技术的定位和价值，首先，现阶段的智能问答是信息检索技术的升级，是量变而未达到质变。但是无论在To B还是To C的场景下，当前的技术都能够切实解决一些用户的痛点，提升用户体验，是亟待推进和充满想象的方向。
在回答怎么做这个问题时，他详细介绍了几种不同的问答机器人的实现路径，包括单轮问答机器人，多轮问答机器人及阅读理解机器人。其中重点阐述了单轮问答机器人的实现原理，包括字面匹配，词向量匹配，深度语义匹配，迁移学习等技术。
腾讯小知凭借着业界领先的智能AI引擎算法和海量大数据仓库，已将智能问答技术落地实施，并且经过大量的业务考验和优化，知识点匹配度和准确率都已达到90%以上，在2018 年 GITC 全球互联网技术大会上，腾讯小知荣获年度互联网最具价值产品奖。
在智能客服的基础上，我们又打造了基于语音的电话机器人，力主融合智能客服，人工在线客服，工单系统和电话机器人，为客户打造从售前售中售后的整体解决方案。
以上是多轮对话的原理框架，可以用不同的方式实现，近年来研究的热点是所谓end-to-end的神经网络模型，希望可以利用神经网络的语义编码能力和深层网络的堆叠实现端到端学习，减少各个模块的拟合bias导致的损失。但实用中我们并不会真正实现输入到输出的end-to-end学习，主要是因为模型深度过深不且多轮对话的语料非常欠缺，模型不好训练。实际中是分开各自的模块进行训练的，比如NLU中的槽位抽取就可以用基于神经网络的序列标注模型来建模，意图识别则可以通过之前的语义匹配模型或者分类模型来做都可以，NLG则是用seq2seq的翻译模型来训练，这样做比较灵活。而在多轮对话中比较受关注的是对话状态和策略的建模，做法有多种，比如对上一次的agent输出，本次的用户输入，当前的状态下可用的数据集合一起进行编码，然后输入到一个神经网络中学习action的选择，即policy learning，这里除了使用有监督学习，还可以进一步使用强化学习的技术，即构造一个用户模拟器，让agent跟他不断交互，根据交互是否完成任务和交互轮数来给agent不同的奖励和惩罚，从而最终学习出高成功率的对话策略。这部分的内容也特别有意思，希望以后可以单独展开来说。
另外，ASR语音识别和TTS语音合成是不可或缺的重要服务，这三个模块相互协作，共同完成与用户的交互。
既然问答技术还不成熟，那为什么还要投身到这个领域呢。我想从To B和To C两个角度去回答。对企业来讲，当前的问答技术虽然无法解答复杂的咨询，但是大部分的简单的头部问题是可以比较好的解答的。从本轮AI大潮NLP赛道的几名种子选手都从智能客服这个方向切入就可以看出企业是确实存在对智能问答的刚性需求。而对普通用户来讲，一方面siri等语音助手每天都在为用户提供便捷的交互界面，另一方面像amazon echo这一类的智能家居产品也逐步进入千家万户，成为物联网生态的中心入口之一，这便是智能问答的价值所在。
腾讯小知算法负责人陈松坚也在会场发表了关于智能问答技术原理及其在To B场景下的应用的专题演讲，从自己的角度为我们展现智能问答技术的最新成果。
各位下午好，很高兴今天能在这里给大家做分享报告。先介绍一下，我们腾讯小知是致力于为政府和各行业提供一揽子智能问答解决方案的团队，目前已经落地的包括基于文本的智能客服机器人和基于语音的电话机器人等。
最后对智能问答的未来发展提几点我的看法。目前学术界比较公认的一个方向是，需要更有机地结合模型和规则，而在问答领域，规则的一大组成部分就是知识图谱，包括开放领域的知识图谱和专业领域知识图谱。而更进一步地，我们需要研究带有推理性质的事理型知识图谱去描述领域内的规则和知识，让机器人能够处理带有复杂条件的问题，提供更智能的回复。在我看来，智能问答的一个突破口就在于解决以上三个问题。以上就是今天分享的内容，谢谢大家。
另一种方案考虑到两个句子之间的交互信息对学习他们是否匹配显然更为重要，这一类方案被称为交互式建模，右边是一个典型的例子，他最大的不同是首先对两个句子的所有窗口组合进行拼接和卷积，得到交互信息。然后再进行多次卷积和池化得到表示。其他的交互方式还包括编码之后，进行交互操作，如作差，点乘等，还有计算attention表示，也是常见的交互方式。
陈松坚，腾讯数据平台部算法高级研究员，有着8 年的 NLP 研发经验，2017 年加入腾讯 TEG 数据平台部，负责智能客服产品腾讯小知的算法规划和落地。负责过多个智能客服项目，对封闭领域的智能问答有丰富的实战经验。
那如何实现智能问答机器人呢？我们先来看最基本的单轮问答机器人的实现原理。
<<上一篇：辽宁发现8000年前新石器时代早期古村落 >>
<<下一篇：习近平同巴拿马总统巴雷拉举行会谈 >>