社区编辑申请
注册/登录
提升支付宝搜索体验,蚂蚁、北大基于层次化对比学习文本生成框架
人工智能 新闻
来自蚂蚁集团、北大等机构的研究者提出了一种多粒度对比生成方法,设计了层次化对比结构。

文本生成任务通常采用 teacher forcing 的方式进行训练,这种训练方式使得模型在训练过程中只能见到正样本。然而生成目标与输入之间通常会存在某些约束,这些约束通常由句子中的关键元素体现,例如在 query 改写任务中,“麦当劳点餐” 不能改成 “肯德基点餐”,这里面起到约束作用的关键元素是品牌关键词。通过引入对比学习给生成的过程中加入负样本的模式使得模型能够有效地学习到这些约束。

现有的基于对比学习方法主要集中在整句层面实现 [1][2],而忽略了句子中的词粒度的实体的信息,下图中的例子展示了句子中关键词的重要意义,对于一个输入的句子,如果对它的关键词进行替换(e.g. cosmology->astrophysics),句子的含义会发生变化,从而在语义空间中的位置(由分布来表示)也会变化。而关键词作为句子中最重要的信息,对应于语义分布上的一个点,它很大程度上也决定了句子分布的位置。同时,在某些情况下,现有的对比学习目标对模型来说显得过于容易,导致模型无法真正学习到区分正负例之间的关键信息。

基于此,来自蚂蚁集团、北大等机构的研究者提出了一种多粒度对比生成方法,设计了层次化对比结构,在不同层级上进行信息增强,在句子粒度上增强学习整体的语义,在词粒度上增强局部重要信息。研究论文已被 ACL 2022 接收。

论文地址:https://aclanthology.org/2022.acl-long.304.pdf

方法

我们的方法基于经典的 CVAE 文本生成框架 [3][4],每个句子都可以映射成为向量空间中的一个分布,而句子中的关键词则可以看成是这个分布上采样得到的一个点。我们一方面通过句子粒度的对比来增强隐空间向量分布的表达,另一方面通过构造的全局关键词 graph 来增强关键词点粒度的表达,最后通过马氏距离对关键词的点和句子的分布构造层次间的对比来增强两个粒度的信息表达。最终的损失函数由三种不同的对比学习 loss 相加而得到。

句子粒度对比学习

在 Instance-level,我们利用原始输入 x、目标输出

及对应的输出负样本构成了句子粒度的对比 pair

。我们利用一个先验网络学习到先验分布

,记为

;通过一个后验网络学习到近似的后验分布

,分别记为

。句子粒度对比学习的目标就是尽可能的缩小先验分布和正后验分布的距离,同时尽可能的推大先验分布和负后验分布的距离,相应的损失函数如下:

其中为正样本或负样本,为温度系数,用来表示距离度量,这里我们使用 KL 散度(Kullback–Leibler divergence )[5] 来度量两个分布直接的距离。

关键词粒度对比学习

  • 关键词网络

关键词粒度的对比学习是用来让模型更多的关注到句子中的关键信息,我们通过利用输入输出文本对应的正负关系构建一个 keyword graph 来达到这个目标。具体来说,根据一个给定的句对

,我们可以分别从其中确定一个关键词

(关键词抽取的方法我采用经典的 TextRank 算法 [6]);对于一个句子

,可能存在与其关键词

相同的其他句子,这些句子共同组成一个集合

,这里面每一个句子

都有一对正负例输出句子

,他们分别又有一个正例关键词

和负例关键词

。这样在整个集合中,对任何一个输出的句子

,可以认为它所对应的关键词

和每一个周围的

(通过句子之间的正负关系关联)之间都存在一条正边

,和每一个周围的

之间都存在一条负边

。基于这些关键词节点和他们直接的边,我们就可以构建一个 keyword graph


我们使用 BERT embedding[7] 来作为每个节点

的初始化,并使用一个 MLP 层来学习每条边的表示

。我们通过一个 graph attention (GAT) 层和 MLP 层来迭代式地更新关键词网络中的节点和边,每个迭代中我们先通过如下的方式更新边的表示:

这里

可以是

或者


然后根据更新后的边

,我们通过一个 graph attention 层来更新每个节点的表示:

这里

都是可学习的参数,

为注意力权重。为了防止梯度消失的问题,我们在

上加上了残差连接,得到该迭代中节点的表示

。我们使用最后一个迭代的节点表示作为关键词的表示,记为 u。

  • 关键词对比

关键词粒度的对比来自于输入句子的关键词

和一个伪装(impostor)节点

。我们将输入句子的输出正样本中提取的关键词记为

,它在上述关键词网络中的负邻居节点记为

,则

,关键词粒度的对比学习 loss 计算如下:

这里

用来指代

或者

,h(·) 用来表示距离度量,在关键词粒度的对比学习中我们选用了余弦相似度来计算两个点之间的距离。

  • 跨粒度对比学习

可以注意到上述句子粒度和关键词粒度的对比学习分别是在分布和点上实现,这样两个粒度的独立对比可能由于差异较小导致增强效果减弱。对此,我们基于点和分布之间的马氏距离(Mahalanobis distance)[8] 构建不同粒度之间对比关联,使得目标输出关键词到句子分布的距离尽可能小于 imposter 到该分布的距离,从而弥补各粒度独立对比可能带来的对比消失的缺陷。具体来说,跨粒度的马氏距离对比学习希望尽可能缩小句子的后验语义分布

之间的距离,同时尽可能拉大其与

之间的距离,损失函数如下:

这里

同样用来指代

或者

,而 h(·) 为马氏距离。

实验 & 分析

实验结果

我们在三个公开数据集 Douban(Dialogue)[9],QQP(Paraphrasing)[10][11] 和 RocStories(Storytelling)[12] 上进行了实验,均取得了 SOTA 的效果。我们对比的基线包括传统的生成模型(e.g. CVAE[13],Seq2Seq[14],Transformer[15]),基于预训练模型的方法(e.g. Seq2Seq-DU[16],DialoGPT[17],BERT-GEN[7],T5[18])以及基于对比学习的方法(e.g. Group-wise[9],T5-CLAPS[19])。我们通过计算 BLEU score[20] 和句对之间的 BOW embedding 距离(extrema/average/greedy)[21] 来作为自动化评价指标,结果如下图所示:

我们在 QQP 数据集上还采用了人工评估的方式,3 个标注人员分别对 T5-CLAPS,DialoGPT,Seq2Seq-DU 以及我们的模型产生的结果进行了标注,结果如下图所示:

消融分析

我们对是否采用关键词、是否采用关键词网络以及是否采用马氏距离对比分布进行了消融分析实验,结果显示这三种设计对最后的结果确实起到了重要的作用,实验结果如下图所示。

可视化分析

为了研究不同层级对比学习的作用,我们对随机采样的 case 进行了可视化,通过 t-sne[22] 进行降维处理后得到下图。图中可以看出,输入句子的表示与抽取的关键词表示接近,这说明关键词作为句子中最重要的信息,通常会决定语义分布的位置。并且,在对比学习中我们可以看到经过训练,输入句子的分布与正样本更接近,与负样本远离,这说明对比学习可以起到帮助修正语义分布的作用。

关键词重要性分析

最后,我们探索采样不同关键词的影响。如下表所示,对于一个输入问题,我们通过 TextRank 抽取和随机选择的方法分别提供关键词作为控制语义分布的条件,并检查生成文本的质量。关键词作为句子中最重要的信息单元,不同的关键词会导致不同的语义分布,产生不同的测试,选择的关键词越多,生成的句子越准确。同时,其他模型生成的结果也展示在下表中。

业务应用

这篇文章中我们提出了一种跨粒度的层次化对比学习机制,在多个文本生成的数据集上均超过了具有竞争力的基线工作。基于该工作的 query 改写模型在也在支付宝搜索的实际业务场景成功落地,取得了显著的效果。支付宝搜索中的服务覆盖领域宽广并且领域特色显著,用户的搜索 query 表达与服务的表达存在巨大的字面差异,导致直接基于关键词的匹配难以取得理想的效果(例如用户输入 query“新上市汽车查询”,无法召回服务 “新车上市查询”),query 改写的目标是在保持 query 意图不变的情况下,将用户输入的 query 改写为更贴近服务表达的方式,从而更好的匹配到目标服务。如下是一些改写示例:

责任编辑:张燕妮 来源: 机器之心
相关推荐

2022-06-05 21:09:47

Python办公自动化

2022-06-27 17:46:53

PythonFlask

2022-06-15 11:02:40

网络安全运营

2022-06-06 14:29:20

图像模型任务

2022-06-20 09:45:48

Python开源可视化库

2022-05-19 14:57:30

CSS代码工具

2022-05-11 08:23:54

自动化测试软件测试

2022-04-17 23:09:07

深度学习人工智能芯片

2022-06-24 11:14:00

美团开源

2022-06-15 08:25:07

Python天气数据可视化分析

2022-06-16 15:42:16

攻击面管理ASM

2022-07-01 14:25:27

机器学习人工智能工业4.0

2022-06-07 17:01:31

UI框架前端

2022-05-17 08:39:05

VueViteTypeScript

2022-04-29 11:52:02

API代码HTTP

2022-06-08 13:25:51

数据

2022-05-11 14:54:02

输入法框架鸿蒙

2022-06-22 09:19:55

HDC鸿蒙ADB命令

2022-06-28 09:34:24

可视化Python代码

2022-06-30 14:23:56

机器学习工具算法

同话题下的热门内容

李飞飞划重点的「具身智能」,走到哪一步了?新出生的机器狗,打滚1小时后自己掌握走路,吴恩达大弟子成果在我的世界中,B站UP主搭建世界首个纯红石神经网络,图灵奖得主Yann LeCun转赞2022年Nature年度指数出炉,涨幅最快50机构,中国占31席!从机器学习中受益最大的四个行业科技巨头几百亿研发AI被质疑吹嘘:曾击败人类的AI要被卖了人工智能在网络安全中的作用芯片巨头正在偷偷研发这些新AI技术,不比拍照有意思

编辑推荐

转转公司架构算法部孙玄:AI下的微服务架构Facebook开源相似性搜索类库Faiss,超越已知最快算法8.5倍运维:对不起,这锅,我们不背快消品图像识别丨无人店背后的商品识别技术最全面的百度NLP自然语言处理技术解析
我收藏的内容
点赞
收藏

51CTO技术栈公众号