难得难得！关于GPT-5细节以及OpenAI更多内幕，竟然被奥特曼自曝了。
GPT-5会是整个性能全面提升，会超出预期；对正研究如何提升GPT-4的初创公司会是一种碾压。
如果回到过去，我会考虑换掉“OpenAI”这个名字。
计算能力将会成为世界上最重要的货币。如果投入足够的计算资源，构建超越人类能力的AGI是完全可行的。
我非常尊敬Ilya，他的事情他自己说更合适，但我真的希望能一直跟他一起共事。
这波输出频率之高、内容之丰富，让不少网友感到惊讶。
前脚刚跟韩国硅谷记者团透露GPT-5会超出预期，后脚就同Lex Frideman展开两个小时的访谈。
于是乎，不到一天时间，这个访谈就有超百万的访问量。
奥特曼2小时超长访谈
在同Lex Frideman访谈中，奥特曼分享了很多内容，包括大家伙蹲了好几周的GPT-5进展，以及一直在被热议的“Ilya在哪”这样的敏感话题。
量子位做了简单整理，并从中摘取了部分重要信息，在此分享给大家。
- 关于GPT-5：全面提升。
- 关于OpenAI董事会：通往AGI的道路应该是一场巨大的权力斗争。
- 关于Ilya在哪：他的计划，我不方便透露。
- 与马斯克的官司：他曾想收购我们实现完全控制。
- 7万亿美元筹集？计算能力将成为未来的货币。
- 关于谷歌：世界不需要另一个谷歌。
- 关于AGI：任何人不应该控制AGI。
（不过必须承认的是，奥特曼玩太极玩得贼6，愿意称他为新一代张sam丰）
关于GPT-5：全面提升
Q：从GPT-4到GPT-5的飞跃，哪些方面让你感到兴奋?
奥特曼：我很高兴看到GPT-5的智能水平得到提升。这听上去可能有点陈词滥调，但真正令人兴奋的是，它将是整个领域的全面进步，而不仅仅是某一方面变得更好。
Q：在编程方面，你认为未来5到10年内，人类还会亲自编写多少代码?
奥特曼：相信未来编程会有很多不同的形式，也许有些人会完全使用自然语言编程，也就是说不用写代码。
Q：编程很难，尤其是最后缩小那1%的差距，这有多难?
奥特曼：在大多数情况下，实践者会使用多种工具，他们会用自然语言去完成部分工作。
Q：我们会在某个时候看到OpenAI推出人形机器人或类人机器人大脑吗?
奥特曼：会的，在未来的某个时候。
Q：具身智能对你有多重要?
奥特曼：我觉得如果我们拥有AGI，但仍然是人类在现实世界执行各种任务，这将是令人沮丧的。因此作为转变的一部分，我们也希望能开发出人形机器人，或者某种现实世界的机器人。
Q：OpenAI过去在机器人技术方面有过相当一段时间的研究。
奥特曼：我们是一家小公司，所以必须集中资源。而且由于一些错误的原因，当时机器人的发展遇到了很大困难。未来我们还会以某种方式重新投入到机器人研发中。
Q：这听起来既令人鼓舞，又有些令人不安。
奥特曼：为什么?
Q：因为这感觉我们很快就会进入机器人时代，就像《终结者》里那样。
奥特曼：我们会重新投入机器人的研发，但当然不是要把自己变成机器人。
Q：要实现类似GPT-5的模型，还需要克服哪些最大的挑战和瓶颈?
奥特曼：关键点一直都是这些——更强大的计算能力？新的突破性进展？还是别的什么？所有这些因素缺一不可。
OpenAI做得非常好的一点是“将200个中等规模的改进组合在一起，变成一个庞然大物”，这实际上是Ilya的原话。
Q：所以这种分布式、持续的创新正在发生?
奥特曼：是的。
Q：在技术层面也是如此吗?
奥特曼：尤其是在技术层面。
有些人需要考虑如何将所有这些拼凑在一起，但大多数人都试图在头脑中把握整个大局。
从高层次来看，你可能并不清楚每一个细节是如何运作的，但我普遍认为，有时从宏观角度审视全局是非常有用的。这对技术问题和商业创新都适用。
但事情的发展往往会出人意料。即使大部分时间你都专注于某个特定领域，也能获得令人惊讶的洞见。
我曾经拥有的一项超级有价值的能力，就是对科技行业的所有或大部分前沿领域都有一个技术全景图。有时我能看到这些领域之间的联系，或一些可能出现的新事物。
但如果我只专注于一个领域，就不会有这些想法，因为我没有全部的信息。现在我已经钻研得非常深入了。
Q：你已经不再是从前的你了。
奥特曼：现在的工作跟我以前的工作完全不同。
关于董事会：通往 AGI 的道路应该是一场巨大的权力斗争
Q：告诉我OpenAI董事会的故事。
奥特曼：……这绝对是我职业生涯中最痛苦的经历，充满混乱、羞愧、不安以及许多其他负面的东西。不过其中也有美好的事情，但我希望当时不要那么仓促，以至于无法停下来欣赏它们……
整个周末，除了一个大的例外……有时候，我真的觉得这是AI安全史上最糟糕的事情之一。我也很高兴这事发生得比较早。我认为在 OpenAI 开始和我们创建 AGI 之间的某个时刻，会有一些疯狂和爆炸性的事情发生，但可能还会有更疯狂和爆炸性的事情发生。我认为，它仍然帮助我们建立了一些弹性，并为未来的更多挑战做好了准备。
过去那个戏剧性周末并不是OpenAI真正意义所在。OpenAI真正意义在过去的7年。
Q：你有种感觉，你会经历某种权力斗争？
奥特曼：通往 AGI 的道路应该是一场巨大的权力斗争。
Q：你觉得董事会权力太大了吗？
奥特曼：我认为董事会应该拥有很大的权力，但我们确实看到，在大多数公司结构中，董事会通常对股东负责。
有时人们拥有超级股票权的股份或其他东西。这种情况下，我认为对结构多加考虑的一点是，除非你制定了其他规则，否则非营利组织的董事会拥有很大的权力。
他们只对自己负责，不对任何人负责。这在某些方面是好的，但我们真正希望的是，OpenAI 的董事会能够对整个世界负责，因为这是一件很实际的事情。
关于Ilya在哪：我不方便透露
Q：Ilya是不是被关在某个秘密核设施里？
奥特曼：不是的。
Q：那么，他是不是在某个普通的秘密基地？
奥特曼：也不是。
Q：那他是不是在非秘密的核设施里？
奥特曼：不是的，以上都不是。
Q：你和Ilya认识很久了，现在你们之间的关系如何？
奥特曼：我非常尊敬Ilya，不过关于他的计划，他自己来说更合适。但我真心希望我们能够一直合作，直到我职业生涯的结束。他比我年轻，或许他的工作生涯会更长一些。
Q：有传言说，Ilya可能已经看到了一些关于AGI的东西，这让他感到非常忧虑。他究竟看到了什么？
奥特曼：Ilya还没有看到AGI，我们也都还没有见过AGI。我之所以特别欣赏Ilya，其中一个原因是他对AGI以及与之相关的安全问题非常严肃认真，他总是考虑这些技术对社会可能产生的影响。在我们不断取得进展的过程中，Ilya是我与之讨论这些问题最多时间的人之一。所以，Ilya并没有看到AGI。但他确实是人类在这一领域的功臣，为了确保我们能够正确处理这些问题，他付出了很多思考和努力。
Q：每当他谈论技术时，他总是在进行深远的思考，这使得他成为一个非常吸引人的人物。你知道他为什么保持沉默吗？他是在进行自我反省吗？
奥特曼：我还是那句话，我不想替Ilya发言。我认为你应该直接问他。他绝对是一个有深度的思想家。我相信他一直在以一种很好的方式进行自我反思。
Q：对，他还懂得沉默的力量。我还听说他有时候表现得有点傻气，但我从未见过他那样的一面。
奥特曼：最近我和他一起参加了一个晚宴，看到他正在和一只小狗玩耍，表现得非常亲切和可爱。我当时想，这真是外界很少见到的Ilya的另一面。
与马斯克的官司：他曾想收购我们
Q：关于马斯克对OpenAI提起的诉讼，你如何看待他提出的批评？他的观点有合理之处吗？他的理解有哪些偏差？
奥特曼：我不太明白他诉讼的真正意图。我们最初只是想建立一个研究实验室，对于这项技术的未来走向并没有明确的预期。
那是在语言模型还未广泛流行之前，我们还不清楚什么是API，也没有想过要销售Chatbot的访问权限，更没有考虑过产品化的问题。我们的初衷是仅仅进行研究，对其他事情一无所知。
我认为，对于许多颠覆性的新技术，我们往往在不确定中探索，并做出一些假设，而这些假设最终往往被证明是错误的。
随着时间的推移，我们意识到需要采取不同的策略，也需要更多的资金支持。因此，我们不断调整结构，每一步决策都是基于当时的合理性。但这并不意味着如果我们能回到过去，我们会做出完全不同的选择。
Q：你们这群热衷于AGI研究的人曾被嘲笑，马斯克也曾因谈论火箭而受到质疑，你认为他对此有何感想？
奥特曼：不久之前，马斯克还在热衷于讨论火箭发射，同样遭到了人们的嘲笑。我本以为他会对我们的处境有更多的同情。
当时，马斯克选择与我们分道扬镳，他认为OpenAI会失败，因此想要完全掌控局面。我们则希望继续沿着现在OpenAI所走的道路前进。他还曾希望特斯拉能够开发出AGI。
在不同的时期，他都试图将OpenAI转变为一家由他控制的营利性公司，或者将其与特斯拉合并。
我们并不同意这样的方向，所以他选择离开，这也是他的自由。
Q：对于OpenAI这个名字中的“Open”，你是如何理解的？
奥特曼：如果可以回到过去，我会选择一个不同的名字。OpenAI的核心使命是将先进的技术作为公益事业免费提供给公众。
这种开放性对我们的使命至关重要。我相信，如果我们能够向世界提供强大且成本低廉的人工智能工具，这将极大地推动人类创造一个美好的未来。因此，我们将继续致力于向全球提供免费或低成本的先进AI工具，这对于实现我们的使命至关重要。
Q：那么，对于马斯克提议将OpenAI更名为CloseAI，你有何看法？
奥特曼：这反映了他对诉讼的重视程度，他的说法让我感到意外。
Q：但我认为这起诉讼背后更重要的是对AGC以及OpenAI未来的立场表达。
奥特曼：Grok之前一直没有开源任何产品，直到人们开始质疑这种做法的虚伪性，他才宣布将在本周开源。我不认为开源与否是他真正关心的问题。
Q：目前许多公司都在考虑开源策略，OpenAI是否有过类似考虑？
奥特曼：是的，开源模式在某些领域肯定会有其位置，特别是对于那些可以在本地运行的小型模型，市场需求巨大。我认为未来会同时存在开源和闭源的模式，这与其它技术生态系统并无二致。
Q：许多初创公司对OpenAI从非营利组织转变为盈利公司的做法感到关注。
奥特曼：我会强烈建议这些公司三思而后行。我不认为我们正在开创一个先例。
Q：你期待与马斯克未来的关系如何发展？
奥特曼：我非常尊敬马斯克，希望在未来我们能够建立起友好的关系。
7万亿美元？算力将成为未来的货币
Q：有报道称你筹集了7万亿美元？
奥特曼：我从没说过这样的话。
Q：但你说了：Fuck it， maybe eight。
奥特曼：我确实认为算力将成为未来的“货币”。它可能会变成世界上最宝贵的资源，我们应当大量投资以提升计算能力。
这涉及到许多挑战，比如能源供应是最大的难题，数据中心的建设、供应链管理以及芯片生产也同样困难。但这是未来的发展方向。我们所需的计算量目前还难以估计。
Q：如何解决能源问题？你看好核能？
奥特曼：我确实看好核能。
Q：核聚变？
奥特曼：是的。我认为我们应该建造新的反应堆。现在该行业停滞不前实在是太可惜了。
关于谷歌：世界不需要另一个谷歌
Q：随着GPT的发展，OpenAI是否有意接管谷歌20年前开始的业务？
奥特曼：我觉得这个问题很无聊。很多人试图做出一个比 Google 更好的搜索引擎。但这涉及到技术、品牌以及生态系统等多方面的挑战。
我不认为世界需要另一个谷歌。
Q：将ChatBot与搜索引擎集成在一起。
奥特曼：这样更酷。LLM加上搜索功能的整合，我认为还没有人能真正探索出来，我很乐意去尝试。
Q：那你对广告业务的看法呢？ 奥特曼：我讨厌广告。互联网需要广告来支撑，但我认为这只是一时的产业。
我更倾向于人们为ChatGPT付费，而他们得到的答案不受广告商的影响。这是一个简单直接的商业模式。
我在使用Twitter、Facebook、Google或其他依赖广告的平台时，并不喜欢它们。我认为在AI时代，这种情况可能会变得更糟。
Q：像维基不做广告是个非常大胆的举动，从商业角度OpenAI现在可持续的吗？
奥特曼：我们必须找到增长的方法，我相信我们会找到的。能否在没有广告的情况下运营一家伟大的企业，满足计算需求？我相信这是可能的。
对于AGI的展望：任何人不应该控制AGI
Q：您认为我们何时能开发出AGI？
奥特曼：我曾经喜欢猜测这个问题，但AGI的定义模糊不清。我认为更有意义的是讨论何时能实现具体功能，而非泛泛而谈「何时达到这个里程碑」。
AGI不是终点，而是一个起点，是一个重要的里程碑。
预计到本十年末，甚至可能更早，我们将拥有强大的AI系统，让人惊叹“哇，这太了不起了”。
Q：但许多人认为ChatGPT已经是AGI。
奥特曼：是的，但我不认为GPT-3.5改变了世界。它可能改变了人们对未来的期望，这非常重要。
这确实让更多人重视这个问题，推动我们进入新的发展阶段。因此，我不想再次低估它。我想在实现这一成就后退休对我的职业生涯感到满意。但我不认为会在回顾这一点时说，这是一个真正改变了世界的门槛。
Q：所以你在寻找一些真正重大的变革。
奥特曼：是的，这正是我对AGI的期待之一。
Q：你期待的是奇点级别的变革吗？
奥特曼：不，不是。我认为，如果一个系统能显著加快世界科学发现的速度，那将是一件大事。真正的经济增长大多源自科技进步。
Q：你一般能比其他人更先与AGI交流，你会问些什么？
奥特曼：研究人员会比我更早与AGI交流。但如果可能，我会问AGI：
请解释一下物理学的万物理论。
Q：您可以问一些是非问题，比如“这样的理论存在吗？它能存在吗？”或者“还有其他外星文明吗？您的直觉是什么？”
奥特曼：是的，虽然我不指望第一个AGI能回答这些问题，即使只是是非问题。但如果可能，这些问题会是我提问的首选。
Q：谁首先打造出AGI，将获得巨大的权力。您觉得自己能掌控这样的权力吗？
奥特曼：我会非常诚实地回答这个问题。我始终相信，无论是我还是其他人，都不应完全控制OpenAI或AGI。
我们需要一个健全的治理体系。去年董事会的风波让我意识到，尽管董事会有权力解雇我，但实际上这并未发生。这是一种治理上的失败。
我从未拥有过，也从未想要拥有对OpenAI的超级投票控制权。即使经历了这么多，我仍然不想要它。
我认为任何公司都不应做出这些决策，我们需要政府来制定规则。
我在OpenAI的发展过程中做出了一些好的和坏的决定，总的来说，我对自己的表现感到自豪。但我不认为任何个人应该或能够控制AGI，或影响AGI的发展方向。我不认为这是正在发生的事情。
Q：你担心失去对AGI的控制吗？很多人担心的不是国家行为者或安全问题，而是AI本身。
奥特曼：根据我目前的看法，这不是我最担心的问题。
One More Thing
不过爆料了那么多，对于GPT-5发布时间还是三缄其口。
Lex Fridman说：如果今年发布GPT-5话，就眨眼两次。
奥特曼be Like：我忍住不眨。
完整版视频链接：https://www.youtube.com/watch?v=jvqFAi7vkBc。
