造访22个国家,OpenAI CEO回来后要改进AI工具

人工智能
通过与各国用户和领导人的深入交流,奥尔特曼计划要改进ChatGPT等人工智能工具,比如更好适配非英语用户,以及寻找识别人工智能生成内容的各种方法。

7月1日消息,OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)花时间访问了全球22个国家。通过与各国用户和领导人的深入交流,奥尔特曼计划要改进ChatGPT等人工智能工具,比如更好适配非英语用户,以及寻找识别人工智能生成内容的各种方法。

以下是翻译内容:

本月早些时候,当OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)在澳大利亚登台完成全球巡回演讲的最后一站之前,有人问他过去几周内到底访问了多少个国家。

“8个,”有人喊道。当真正的数字揭晓时,所有人似乎都倒吸了一口气:22个。

“我已经准备好返程了,”奥尔特曼在澳大利亚墨尔本的一次演讲中说。“但能和这么多人就OpenAI进行交流是一次非常特别的经历。”

OpenAI公共政策主管安娜·马坎朱(Anna Makanju)表示,公司从奥尔特曼全球之旅进行的一系列交流中吸取了很多经验教训,包括需要让自家产品更好适用于非英语用户,并有可能明确内容是否是由人工智能生成的。

此前奥尔特曼曾现身美国国会,呼吁政府对最强大的大语言模型进行监管,他公司广受欢迎的聊天机器人ChatGPT也是靠这些模型运行。自那之后,奥尔特曼已经会见了法国总统马克龙和印度总理莫迪等各国领导人,讨论人工智能的前景和威胁。

斯坦福大学人工智能研究所国际政策研究员、前欧洲议会议员玛丽耶·沙克(Marietje Schaake)在谈到奥尔特曼时说,“他试图建立关系,首先是因为他明白监管即将到来。”“因此他说公司欢迎监管,也是希望争取立法者的好感。”

在奥尔特曼造访欧洲期间,欧盟议会投票推进名为《人工智能法案》(AI Act)的立法草案,这套法案被认为是西方首套全面的人工智能法规。草案包括对面部识别的限制,并要求一些人工智能模型披露用于训练模型的版权材料。同样,在奥尔特曼访问澳大利亚时,当地政府正在就监管人工智能进行为期八周的磋商。

陪同奥尔特曼访问的马坎朱说,她印象最深刻的是,从葡萄牙里斯本到韩国首尔的每一站,即便人们也想要防范风险,但所有人最关心的还是不要让自己国家错过人工智能革命可能带来的经济机会。她说:“人们真的希望确保无论他们做什么,都能为他们的经济带来好处。”

马坎朱说,人们提到的主要风险是对虚假信息的恐惧,担心人工智能技术对就业市场的影响,还担心人工智能推理能力对人类来说到底意味着什么的存在性风险。

自去年11月份上线以来,ChatGPT因神奇能力风靡全球,用户可以用简单的对话提示来让ChatGPT写电子邮件、诗歌或计算机代码。今年3月份,OpenAI加大投入力度,发布最新的大语言模型GPT-4,为聊天机器人提供更强大动力。

在这个过程中,Alphabet旗下谷歌和微软等各个公司在人工智能领域展开激烈竞争。谷歌和微软都开始在自家搜索产品中加入生成式人工智能技术,微软还与OpenAI达成了130亿美元的合作伙伴关系。

这也引发关于人工智能可能危害人类的一系列严重警告,有时这种警告甚至来自奥尔特曼本人。

据报道,奥尔特曼在英国造访期间登上新闻头条。他在一次讨论的间隙表示,按照欧盟草拟的人工智能法案,OpenAI存在“很多”问题。法案草案将OpenAI的GPT-4等模型指定为“高风险”,需要受到监管。如果OpenAI在技术层面上无法遵守这一法案,可能不得不在欧盟“停止运营”。

奥尔特曼随后又在推特上写道:“在欧洲就如何更好监管人工智能开展的一周时间对话卓有成效!我们很高兴能继续在这里运营,当然也没有离开的计划。”

马坎朱说,整件事只是“奥尔特曼的随口一说被断章取义了”。在全球访问结束后,马坎朱表示,公司正专注于制定可行的技术方法,以便对OpenAI开发的强大模型进行管理,比如制定标准在模型部署之前评估安全性。

马坎朱也对欧盟人工智能法案草案中的部分条款表达了担心。这些条款要求人工智能模型披露它们用于训练模型的版权内容。她说,OpenAI还没有对法案表达正式的官方立场,因为仍有多个版本的草案需要达成一致。

马坎朱还在全球访问结束后表示,公司有兴趣寻找能识别人工智能生成内容的方法。OpenAI研究人员已经对各种方法进行了一段时间的试验,包括一种被称为“水印”的统计方法。

早在ChatGPT引起公众关注之前,欧盟执行机构就于2021年首次提出了《人工智能法案》(AI Act)。但马坎朱表示,欧洲并不一定会像之前引领数据隐私方面的监管一样引领这波科技监管浪潮。她提到,上周美国参议院议员查克·舒默(Chuck Schumer)发布了一个制定人工智能立法的框架。

奥特曼和OpenAI的其他高管们都建议,对于能力超过一定阈值的人工智能开发工作,将需要由一个类似于国际原子能机构(International Atomic Energy Agency)的全球机构进行监管,这样一个机构可以审查系统并测试是否符合安全标准。

尽管人们担心人工智能可能产生的潜在危险,但奥尔特曼在大多数国家都受到了人们的热烈欢迎。

在墨尔本的演讲活动结束后,奥尔特曼身穿一件灰色亨利衬衫、深色裤子和一双彩虹运动鞋,显得十分随性,被各种自拍和想要聊天的粉丝团团围住。大厅里也有抗议者举起标语,其中一个标语上写着:“人工智能很可能导致世界末日。”

现年26岁的贾斯汀·奥利弗(Justin Olive)正在研究人工智能,他参加了奥尔特曼在墨尔本举行的演讲活动。他说自己每天都在使用ChatGPT,帮助学习或起草电子邮件。但在演讲结束后,奥利弗说自己不确定该如何看待奥尔特曼。

“他对变革性人工智能带来风险的担忧似乎是真的,”奥利弗说。“另一方面,我觉得这只是一位魅力十足的首席执行官在做一些营销工作,这让我有点不安。”(辰辰)

责任编辑:庞桂玉 来源: 网易科技
相关推荐

2023-04-01 20:17:37

意大利ChatGPTOpenAI

2023-03-10 07:53:10

AI系统AIGC系统

2023-08-30 13:46:22

OpenAIAI生物技术

2023-11-18 09:09:44

OpenAI微软

2023-01-18 16:21:24

AIOpenAI

2023-03-13 07:46:10

ChatGPTOpenAI

2023-04-18 15:03:24

模型数据

2023-06-08 07:58:29

2021-04-15 09:59:29

AI 数据人工智能

2023-04-18 09:01:21

OpenAIGPT-4

2023-02-16 20:24:07

OpenAI谷歌ChatGPT

2019-04-11 13:25:58

2024-02-19 14:47:47

2023-05-09 10:17:04

谷歌AI

2022-12-25 14:08:10

AI模型

2023-08-01 09:48:07

AIChatGPT

2023-04-21 11:38:32

AI

2023-04-24 09:34:33

2022-07-12 11:05:40

Vue工具函数源码

2023-03-19 17:52:30

OpenAI人工智能ChatGPT
点赞
收藏

51CTO技术栈公众号