AI终极用法！ChatGPT误导功能开发！整个团队懵逼尬住，知名开源大佬创始人被AI逼宫成功：开发逻辑变了！

编辑｜云昭

出品 | 51CTO技术栈（微信号：blog51cto）

昨天发生一个蛮有意思的“小概率”事件，可以说是人类被 ChatGPT 的幻觉打败了。

当一个 AI 说你的产品有某项功能，用户就会相信你有。即使你从没做过，甚至从没想过做。

以至于，创始人被倒逼着连夜找员工，赶工实现这个“产品经理根本没提过”的产品需求。

就这么一段“抓马”且带着某种科幻味道的桥段，真实发生在一家创业公司身上。

ChatGPT 整活，把一公司人整懵逼

故事发生的主角 Soundslice，是一家专注于“乐谱扫描识别”的小团队产品。用户只需拍一张乐谱照片，系统就能识别其中的音符，生成可以播放、编辑的数字乐谱。

注意：这家公司的创始人，相信大家更为熟悉。他就是大名鼎鼎的开源项目 Django（非常流行的Python Web框架）的创始人之一 Adrian Holovaty。2012 年，他创立了 Soundslice。

这原本是一个非常垂直、清晰的工具。但从某天开始，后台的错误日志频繁出现一种奇怪的上传图片。（ps：作为创始人，Holovaty 非常关注该功能的错误日志，以查看出现了哪些问题以及需要在哪里进行改进。）

一般来讲，用户都会反馈常见的真实的乐谱照片——

图片

而这会收到的全是一张张的 ChatGPT 的聊天截图，内容中包含了 ASCII 吉他谱。

图片

ASCII 吉他谱，是一种用纯文字（比如 ​​E|--0--1--3--|​​）记录吉他演奏指法的极简谱。

Soundslice 团队一头雾水：这不是我们支持的格式，为什么会有这么多用户上传？

直到创始人 Holovaty 自己去 ChatGPT 试了一把，谜底才揭晓——

ChatGPT 正式而自信地告诉用户：“想听你写的吉他谱？去 soundslice.com 上传 ASCII 吉他谱吧。”

嗯，AI 硬说你能干这事，用户竟然也真的信了。

功能还没开发，用户却已经用上了

从严格意义上说，ChatGPT 这是在“胡说八道”。事实上，Soundslice 从没支持过 ASCII 吉他谱的识别与播放，这完全是 AI 杜撰的幻觉。

但有趣的是——幻觉造成的用户需求，却是真需求。

后来在采访中 Holovaty 表示，主要的代价是声誉受损：Soundslice 的新用户带着错误的期望加入。他们被自信地告知我们会做一些我们实际上不会做的事情。

一大批用户带着 ChatGPT 的“建议”注册 Soundslice，上传 ASCII 吉他谱的截图，试图获得预期中的播放体验。

这导致产品团队陷入一种前所未有的尴尬：

• 不做这个功能吧，用户涌入发现“被骗了”，影响品牌声誉；
• 做这个功能吧，是不是太被动、太离谱，甚至有点“被 AI 绑架”的味道？

Holovaty  最终下了决心：

既然用户来都来了，那我们干脆把这个功能真做出来吧。

于是，一个原本根本不在 roadmap 上的功能，被突击开发、上线，并写入了 UI 提示中。

他自己也调侃说：“这可能是有史以来，第一起公司因为 ChatGPT 幻觉而开发新功能的案例。”

AI 的幻觉，正在改变产品世界的运行逻辑

众所周知，大模型的幻觉问题一直存在，ChatGPT 也不例外。

但万万没想到，这次 ChatGPT 的离谱程度竟然超出了想象。

据了解，ChatGPT 并没有 API 连接 Soundslice，也不是 Soundslice 的合作伙伴。但它仅凭一段文本生成的“幻觉描述”，就反向影响了用户行为，塑造了产品认知，最终逼迫团队做出真实回应。

过去我们相信的是：需求来自真实用户的真实意图。

但在 AI 大规模进入人类知识交互系统的当下，有一种新的路径正在形成：

• AI 幻觉 → 用户信任 → 市场预期 → 产品被迫跟进

也就是说，产品团队不再完全掌控“自己是谁”这个问题，AI 在用户心中帮你“定义”了你是谁。

如果说搜索引擎时代，用户靠 Google 发现你；

那么在 AI 对话时代，用户靠 ChatGPT“想象”你。

所以，结果就是：如果 AI 说你能做——那你最好真的能做，不然你就掉粉了。

重新认识AI幻觉：不信它，但不能不应对它

Soundslice 的决定看似无奈，其实是非常明智：与其急着辟谣，不如先听清幻觉背后的真实渴望。

用户并不真的关心你是不是“原生支持” ASCII 吉他谱，他们关心的只是：我写了一段谱子，有没有办法听到它的声音？

ChatGPT 的“胡说”恰好暴露了用户的真实痛点，也提供了一个方向。

你可以抵触它、忽略它，但你无法否认：

AI 正在重塑产品定义、产品传播，甚至产品规划的顺序。

在这个新范式下，我们做的每个功能，可能不是来源于用户调研或竞品分析，而是来自一场你没参与的 AI 对话。

网友：这才是AI的终极用法

现在听起来，之前有不少大佬提倡的“我们应该利用AI的幻觉”的“鬼故事”，的确成真了。

Hackernews 上不少网友也都对这个真实的故事惊到了：这才是AI的终极用途！

一位昵称为 @suzzer99 的网友表示：

有时候它想出来的做法比我还好。

我觉得这才是 AI 最终极的用途——从 Google Maps 到 Grammarly 都是这样。

我写书的最后阶段才开始用 Grammarly，大概接受了它三分之一的修改建议。考虑到这本书我已经自我编辑了几十遍，还请了专业编辑，这比例已经相当高了。

不过如果我照单全收它的建议，这本书反而会变差。它对于清理废话和被动语态很有用，但不理解幽默、上下文、刻意重复这些写作技巧。

此外，这位网友认为，现在最大的问题在于：高层总想把人完全踢出流程，但这样几乎总是会带来灾难。

但，这并不表示，幻觉可以从危险名单上除名了。

另一位网友 @Sophira 则谈了自己对于GPT时代的感受：

GPT 生成的文本确实比 SEO 时代的垃圾内容“看起来”更像样，但也正因为它太像“权威发言”，所以更危险。

它听起来像是对的，但你看到的可能完全是它编出来的。

开放麦：下一次，谁还会被“逼”上线功能？

诸位，不妨大胆设想一下：

• ChatGPT 会告诉你 Notion 支持语音播客转写，然后用户开始“理所当然地”上传音频；
• 它会建议你在 Canva 里做 PPT 一键成片，哪怕 Canva 根本没有这个功能；
• 它会说你的视频平台能分析用户表情并自动生成视频脚本——你甚至都没写过这个 PRD。

简直不能再想了。吊轨程度有点太大。AI 不是你的 PM，但它却影响了你的用户，最终也决定了你的 roadmap。

Soundslice 的案例只是开端。或许越来越多公司，会在 ChatGPT 的“幻觉”中，找到通往现实的新方向。

甚至小编在想，OpenAI 甚至会推出一个“按幻觉收费”的功能。

所以，以后大家也别问“AI 胡说怎么办？”，不如反向思考：“我们准备好在这些幻觉中，看见新的真实需求了吗？”

毕竟通过这个案例，给所有产品开发者们上了一课：

“未来的产品需求文档，可能早已藏在 ChatGPT 的回答里，就等各位大佬的慧眼去发现了。”

参考链接：​​https://www.holovaty.com/writing/chatgpt-fake-feature/​​

本文转载自​​51CTO技术栈​​，作者：云昭