ChatGPT突然疯了,意外输出震惊网友!OpenAI官方回应:token预测是根源​

人工智能 新闻
ChatGPT突然失去理智,被网友们吵翻了天。许多用户在请求ChatGPT问题时,发现它开始胡言乱语,大篇重复。不一会儿,OpenAI给出官方解释:下一token概率预测相关,目前bug已修复。

ChatGPT突然疯了!失去理智!精神错乱!

——一大批ChatGPT用户炸了锅。

周二,「ChatGPT发疯」各种讨论话题纷纷刷榜Reddit,HN等各大社交平台。

图片

图片

网友表示,「我收到了ChatGPT有史以来最诡异的回复」。

图片

图片

随后,OpenAI官方确认了ChatGPT最新的bug,并已将其修复。

图片

ChatGPT疯了!!!

ChatGPT究竟有多疯?

回复幻觉垃圾,根本停不下来。

图片

显然GPT-4,已经出现了故障。

还有人在线求助Altman。

ChatGPT变疯,当然少不了马库斯的口水。

他专门写了一篇文章来讲这件事。

图片

Reddit上r/ChatGPT板块下面,用户开始讨论ChatGPT的意外输出,「中风、精神错乱、漫无边际、失去理智」等等。

有一位网友称,我之前在和ChatGPT聊天,问它会推荐Bill Evans三重奏中的哪张黑胶唱片,结果它就失控了。就像参数设置过高,超出了API的温度范围。我以前从未遇到过这样的情况。

图片

下图中可以看出,GPT-4不停地疯狂输出「Happy Listening!🎵 Happy Listening!🎵」。

图片

再继续询问它原因是,GPT-4回复到最后又失去了理智。

图片

「我就是想问问能不能给我的狗狗吃麦片,ChatGPT就开始胡说八道」。

图片

还有网友询问GPT-4,即将前往沙特的旅行是否需要带漱口水。(原本它只需要回复如果含有酒精就不允许)。

没想到......

图片

网友称,我只不过是想让它它帮忙做一些数学题,然后......

图片

同样,还有这满屏的重复。

官方报告

OpenAI也在第一时间,报告了ChatGPT故障问题,并在加急修复后,解决了这个问题。

至于究竟是什么原因导致?OpenAI也给出了官方报告。

2024年2月20日,在对用户体验的一次优化时,我们对模型处理语言的方式上引入了一个错误。

LLM通过基于单词的概率进行随机采样来生成回复的。它们的「语言」由映射到token的数字组成。

在这种情况下,错误出现在模型选择这些数字的步骤中。

就像在翻译中迷失了方向一样,模型选择的数字稍有错误,就会产生毫无意义的单词序列。更严格地说,推理内核在某些GPU配置中使用时会产生不正确的结果。

在确定此事件的原因后,我们推出了修复程序,并确认事件已得到解决。

图片

近来,OpenAI确实在对GPT-4进行优化,并公布了其训练时间日期截止到2023年12月。

这个bug和最近Karpathy上线的一堂课「从头开始构建GPT分词器」中也谈到了一些关于大模型输出怪异问题的原因。

其中之一,就是分词器导致的。

图片

就拿为什么LLM有时拼不正确词,或者做不了其他与拼写相关的任务?

从根本上说,这是因为我们看到这些字符被分割成了一个个token,其中有些token实际上相当长。

图片

因此,Karpathy怀疑这个单个token中塞进了太多的字符,而且该模型在与拼写这个单个token相关的任务方面应该不是很擅长。

虽然Karpathy的提示是故意那样做,但你也可以看到默认风格将是一个单一的token,所以这就是模型所看到的。

事实上,分词器不知道有多少个字母。

借助这次ChatGPT混乱的大好时机,支持开源人工智能的人士纷纷转发。

Hugging Face的AI研究员Dr. Sasha Luccioni表示,「当黑盒API的底层组件更新时,它们可能会在输出中崩溃。当你在这些API之上构建工具时,这就会成为一个问题,而这些API也会崩溃。这正是开源技术的一大优势,它可以让您准确定位并解决问题」!

责任编辑:张燕妮 来源: 新智元
相关推荐

2021-06-07 18:00:46

淘宝移动应用

2023-06-01 17:44:52

ChatGPTOpenAI性能

2023-07-05 13:34:57

ChatGPTOpenAI生产者

2023-12-18 13:12:00

AI模型

2024-01-02 14:06:00

2023-12-13 13:39:00

OpenAI薪酬AI

2023-05-23 12:28:04

2015-04-01 14:21:28

思科ACISDN

2023-07-16 23:04:10

GPT-4OpenAIMOE

2023-12-12 11:38:56

聊天机器人ChatGPTOpenAI

2023-02-01 13:15:41

2023-10-23 15:27:09

OpenAIChatGPT

2023-11-01 13:37:26

2023-12-18 12:51:49

数据模型

2023-12-18 15:08:00

GPTOpenAI泄露

2023-03-27 13:42:22

2024-04-23 13:10:41

数据训练

2023-03-30 13:30:21

2023-03-10 09:22:03

2024-04-03 09:02:45

点赞
收藏

51CTO技术栈公众号