200字带你看完一本书,GPT-3已经会给长篇小说写摘要了

新闻 人工智能
现在,AI能帮你200字看完一段12万词的长篇小说了!先把原文总结成276个摘要(24796词),然后进一步压缩成25个摘要(3272词),再到4个摘要(475词)。

[[425896]]

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

现在,AI能帮你200字看完一段12万词的长篇小说了!

比如这样一段121567词的《傲慢与偏见》原文:

200字带你看完一本书,GPT-3已经会给长篇小说写摘要了

△图源OpenAI官网

AI分四个阶段来总结:

先把原文总结成276个摘要(24796词),然后进一步压缩成25个摘要(3272词),再到4个摘要(475词)。

最终得到一段175词的摘要,长度只有原片段的千分之一:

200字带你看完一本书,GPT-3已经会给长篇小说写摘要了

粗略翻译下看看,关键的几个情节都点到了:

200字带你看完一本书,GPT-3已经会给长篇小说写摘要了

这理解力,不禁让人望着某泡面压留下了泪水。

这就是OpenAI最新推出的能给任意长度书籍写摘要的模型。

平均10万词以上的训练文本,最终能压缩到400字以内。

而且这也是源自OpenAI精妙的刀法:没错,就是把GPT-3数据集里的书籍/小说部分抽出来进行训练所得到的模型。

话不多说,一起来看看这个微调版的GPT-3模型。

递归任务分解

首先,现将“总结一段文本”这一任务进行算法上的分解。

如果该文本足够短,就直接进行总结;如果它比较长,就把文本分成小块,并递归地对每一块进行总结。

这就形成了一棵总结任务树:

200字带你看完一本书,GPT-3已经会给长篇小说写摘要了

其中只有叶子任务会对书籍中的原始文本进行操作。

并且,已生成的摘要应该放在同一深度,并按照顺序串联起来。

比如上图中的蓝色任务的先前总结输出就用虚线来表示,这样,每一个摘要都是自然地从上一层任务(前文)流出,以保证那些相距较远的段落能够真正地“联系上下文”。

接下来开始训练:

  1. 根据上述的任务树将书籍和其子摘要递归为任务;
  2. 从树上抽出一个节点,对应一个带训练的总结任务;
  3. 获得训练数据,给该节点以输入;
  4. 使用训练数据对模型进行微调。

其中,所有训练数据都来自GPT-3中的书籍部分。

研究人员会跳过非叙事性书籍,尽量选择小说类(平均包含超过10万个单词),因为这些上下文关联性更强的文本对总结任务来说更难。

这一训练过程可以使用新的模型、不同的节点采样策略、不同的训练数据类型(演示和比较)来迭代。

对于演示用的数据,使用标准的交叉熵损失函数进行行为克隆(BC)。

对于比较数据,则通过强化学习(RL)来对抗一个专为人类偏好而训练的奖励模型。

强化学习也有三种变体的抽样任务:

  • 全树
  • 第一棵子树
  • 第一片叶子

训练完成后进行总结,任务的最终目的是追溯出叙述的时间线和整体主题。

每个摘要子任务的目标是将文本压缩5到10倍,长度上限为128到384个符号。

优于现有同类模型

实验阶段,研究人员使用了Goodreads 2020榜单上的40本最受欢迎的书籍,其中囊括了幻想、恐怖、爱情、推理等近20个类型。

然后让两名人类研究员和模型同时进行总结,要求双方的摘要质量的一致性接近于80%。

模型规模分为175B和6B两种,且训练模式也分为上述的强化学习的三种变体任务。

最后结果中,可以看到第一棵子树RL和全树RL的总结任务最接近于人类的水平:

200字带你看完一本书,GPT-3已经会给长篇小说写摘要了

并且,也有超过5%的175B模型的摘要被打到了6分(满分7分),超过15%的摘要被打到5分:

200字带你看完一本书,GPT-3已经会给长篇小说写摘要了

研究团队也在最近提出的BookSum数据集上进行了测试,结果比现有的长文本总结模型更好:

200字带你看完一本书,GPT-3已经会给长篇小说写摘要了

除此之外,摘要是否能用来回答关于原文的问题也是评估方法之一。

因此,团队将他们的总结模型应用于NarrativeQA问题回答数据集,可以看到,虽然没有经过明确的问题回答训练,但在所有的指标上都获得了最好的结果:

200字带你看完一本书,GPT-3已经会给长篇小说写摘要了

作者介绍

这篇研究出自OpenAI的 OpenAI Alignment team,他们表示,目前没有开源此模型的计划。

论文一作Jeff Wu本硕都毕业于麻省理工大学,在加入OpenAI之前有过在谷歌工作的经历。

[[425897]]

共同一作Long Ouyang本科毕业于哈佛大学,博士则毕业于斯坦福大学的认知心理学专业,主要研究领域为认知科学与概率规划研究。

[[425898]]

论文:
https://arxiv.org/abs/2109.10862

OpenAI官网介绍:
https://openai.com/blog/summarizing-books/

 

责任编辑:张燕妮 来源: 量子位
相关推荐

2015-10-09 09:21:01

程序员写书

2020-07-10 14:04:17

编程开发

2012-11-12 09:55:36

云计算盘古云

2021-11-22 17:55:56

Python 开发编程语言

2023-12-20 07:23:59

2021-01-29 10:59:33

人工智能

2011-04-15 10:38:31

程序员

2022-03-24 10:35:38

人工智能模型代码

2024-02-26 00:40:00

AIGPT

2023-05-29 12:13:58

模型AI

2017-03-15 15:43:08

编程书初学者资源

2015-09-25 10:58:20

2023-04-18 16:07:11

人工智能

2023-05-12 17:07:05

模型AI

2020-03-02 14:20:46

PythonGitHub编程语言

2023-03-01 16:15:16

2021-05-25 14:10:34

AI 数据人工智能

2022-01-20 15:15:34

分布式架构实践

2022-03-25 14:24:18

谷歌自然语言算法

2023-04-07 09:53:02

量子AI
点赞
收藏

51CTO技术栈公众号