百度技术委员会主席吴华:NLP技术要让机器具有人类语言交流能力

人工智能
“要让人工智能走进人类的生活,就需要让它们具有与人类交流的语言能力。自然语言处理(NLP)是人工智能的核心领域之一,是解决这一问题的核心途径。研究好NLP就能让计算机理解和生成人类语言,以我们熟悉的方式服务人类。”百度技术委员会主席吴华在国际自然语言处理与中文计算会议(NLPCC)上诠释了NLP技术的重要意义。

[[211656]]

“要让人工智能走进人类的生活,就需要让它们具有与人类交流的语言能力。自然语言处理(NLP)是人工智能的核心领域之一,是解决这一问题的核心途径。研究好NLP就能让计算机理解和生成人类语言,以我们熟悉的方式服务人类。”百度技术委员会主席吴华在国际自然语言处理与中文计算会议(NLPCC)上诠释了NLP技术的重要意义。

NLPCC 2017由中国计算机协会(CCF)主办,是具有国际影响力的学术与创新交流平台。百度技术委员会主席、百度自然语言处理部门技术负责人吴华应邀出席,并在会上介绍了百度NLP技术的发展现状和产品应用能力。

吴华表示,百度NLP以大数据和知识图谱为立足点,基于机器学习和语言学方面的积累,拥有***的文本理解与生成技术,由此构建起问答、机器翻译和对话系统,并以平台化的方式对更多产品进行支持,如NLPC(NLP Cloud)和百度AI开放平台。百度NLP技术已经应用在搜索、信息流、DuerOS等百度的众多产品上。

凭借多年的技术积累,百度研发了一套联合统一的词法分析方案,极大提高了机器正确识别和标注句子中词的概率。吴华表示,词法分析是自然语言处理的基础,其准确程度直接影响后续一系列分析处理任务的效果。百度的这套方案将专名识别(NE Recognition)、分词和词性标注统一在一个框架中,得到语义更合理和完整的词语切分与词性标注序列;另一方面,百度特有的海量点击反馈数据辅助词性标注将词性标注语料从20万迅速扩充到1亿3千万个句子,标记数据精度超过95%,提升了自动分词和词性标注的准确率。

在介绍百度先进的文本理解与生成技术能力时,吴华强调,不同应用对文本理解的程度和解析粒度的要求不同,一套固定的解决方案无法满足所有需求。目前,百度NLP不仅拥有通用的理解技术,更面向不同任务提供相应的文本理解技术,实现更精准的意图理解、推荐、人机对话等。在搜索中,使用基于深度学习模型的多层次语义匹配技术,搜索结果的关联度将大幅提升。例如,在应用深度学习模型前,搜索“水泵忽强忽弱”结果是不相关的,应用之后的关联度大幅提升。而在基于知识库问答和面向任务的对话系统中,使用精细的句法分析和语义角色标注技术,可以准确定位和理解用户意图。

 

篇章理解是文本理解的另一核心组成,吴华表示,“NLP技术可以通过用户兴趣网络和文档语义网络形成标签图谱,最终得到‘不搜即得’的智能推荐。”该技术以用户兴趣为出发点,依托从搜索、贴吧、百科等不同渠道获得的有明确含义的主题、话题或实体等内容标签,形成可实时更新的关注点标签图谱。在下面这张关注点标签图谱中,“AI”话题与“科技”、“VR”等话题,“乌镇峰会”等事件关联在一起。基于关注点图谱对文档内容进行标注,可以更好地描述用户与文章之间的关系,从用户的视角对篇章进行更合理的分类和有效的推荐。

 

吴华在现场向观众展示了两首五言绝句,多数人都难以区分哪一首是由百度机器创作的。目前,百度人工智能撰写的文章通过消息推送、资讯流、开放订阅、百家号等途径进行分发,供用户阅读。

 

基于上述多项技术能力的积累,百度已经构建起问答、对话和机器翻译三大系统。在问答方面,面对用户提出的问题,系统可基于知识图谱加以回答。吴华坦言,没有理解或推理仍是问答领域的巨大挑战,对此,百度日前推出了世界上***的中文机器阅读理解数据集——DuReader,该数据集基于真实应用需求,所有问题来源于百度搜索用户的真实问题,文档来自全网真实采样的网页文档和知道UGC文档,答案基于问题与文档人工撰写生成,目前拥有20万个问题和100万个文档;同时,数据集标注了问题类型、实体和观点等丰富信息,弥补了现有主流数据集对于观点类问题覆盖不足的问题。

对话系统以基于意图图谱的核心技术与用户进行多轮交互(multi-turn interaction)。吴华说道,目前面向任务的对话模式将不同的任务分发给对应的bot,使任务管理低效而复杂,而意图图谱将所有意图容纳到一张图中,从而能够进行连续一致的对话管理。

吴华表示,百度已经将NLP技术应用在众多百度的产品当中。2015年5月,百度将神经网络机器翻译技术应用到百度在线翻译服务中,推出了全球***基于深度学习的大规模在线翻译系统。今年,百度还推出了一款兼具Wi-Fi与翻译双重功能的Wi-Fi翻译机,自带80多个国家的移动数据流量,支持实时语音翻译。

另外,百度也通过平台化的方式对更多产品进行支持。百度开发的自然语言理解一站式解决平台NLPC(NLP Cloud),已经可以提供25种NLP模块,每天被调用超过2000亿次。百度AI开放平台开放了80多项百度核心AI技术能力,其中包含NLP模块、UNIT、翻译在内的十多项自然语言处理方面的能力,供开发者与合作伙伴接入。

 

近几年来,NLP技术的发展受到了世界各国的高度重视。在美国AI创业公司中,自然语言处理领域的创业公司数量最多。中国的AI创业公司中自然语言处理领域的创业公司位居第三。NLP技术的发展和应用正推动人机交互走进一个新的时代。吴华指出,百度自然语言处理技术将持续高速优化升级,持续为开发者、合作伙伴赋能。智能时代即将来到,百度将让AI更懂人类。 

责任编辑:庞桂玉 来源: 36大数据
相关推荐

2020-08-25 11:35:28

百度NLP人工智能

2020-08-25 10:40:57

百度NLP人工智能

2018-07-19 17:03:57

百度

2017-11-14 19:19:07

人工智能自然语言处理百度

2018-04-19 15:03:24

华为云

2019-03-05 23:03:14

华云数据安全

2011-10-24 20:28:03

2015-01-18 15:16:03

百度百度移动分发百度91

2015-12-16 10:39:33

希捷

2014-09-03 20:33:27

2019-03-29 17:47:07

阿里巴巴公益

2012-08-23 09:24:58

廖若雪百度架构师

2010-01-18 23:06:24

KoolPoint项目IT管理摩卡软件

2013-01-31 09:15:08

偷拍插件美杜莎

2017-04-28 19:28:39

百度技术学院繁荣技术

2020-09-18 13:59:20

阿里巴巴云原生平台

2012-03-23 12:12:37

百度开发者大会
点赞
收藏

51CTO技术栈公众号