GPT-4 引发担忧,马斯克等千名科技人士呼吁暂停更强 AI 开发

人工智能
GPT-4 也存在一些潜在的风险,可能会对社会和人类造成不利的影响。特斯拉创始人埃隆・马斯克和一千多名人工智能专家和行业高管在一封公开信中呼吁暂停开发比 GPT-4 更强大的系统六个月,直到制定并实施一套共享的安全协议,并由独立专家进行审计。


3 月 29 日消息,美国 OpenAI 公司的人工智能对话模型 ChatGPT 引发全球关注,该公司的核心投资方微软开始评估其背后的最新模型 GPT-4 对未来人类的影响。GPT-4 是一个可以生成类似于人类语言的大型多模态模型,它在各种专业和学术的标准测试中表现出了人类水平的性能,例如它可以通过模拟律师资格考试,并且得分在前 10% 之内。

然而,GPT-4 也存在一些潜在的风险,可能会对社会和人类造成不利的影响。特斯拉创始人埃隆・马斯克和一千多名人工智能专家和行业高管在一封公开信中呼吁暂停开发比 GPT-4 更强大的系统六个月,直到制定并实施一套共享的安全协议,并由独立专家进行审计。他们还提到了高级人工智能系统可能导致的经济和政治动荡,并呼吁开发者与政策制定者合作建立监管机构。

这封信由非营利性的“生命未来研究所”发布,包括马斯克、苹果公司联合创始人史蒂夫-沃兹尼亚克和 Stability AI 首席执行官埃马德-莫斯塔克在内的 1000 多人签署。

信中说:“只有当我们确信强大的人工智能系统的效果是积极的,其风险是可控的,才应该开发。”

此外,欧盟警察局欧洲刑警组织也在周一发出了对高级人工智能如 ChatGPT 的道德和法律担忧,警告说这种系统可能被滥用于网络钓鱼、虚假信息和网络犯罪等方面。自从去年发布以来,微软支持的 OpenAI 的 ChatGPT 已经促使竞争对手推出了类似的产品,并且许多公司也将其或类似的技术集成到了他们的应用和产品中。

据IT之家了解,OpenAI 此前表示,他们已经花了六个月的时间对 GPT-4 进行了迭代调整,使其在事实性、可控性和拒绝超出安全范围方面取得了最好的结果(尽管还不完美)。

责任编辑:姜华 来源: IT之家
相关推荐

2023-04-18 19:04:42

2023-06-18 12:24:15

AI人工智能

2023-03-30 10:47:38

AI训练OpenAI

2023-03-30 11:08:49

AI模型训练

2024-04-01 13:06:52

Grok-1.5GPT-4人工智能

2023-03-31 09:56:38

2023-05-04 15:03:53

AI微软

2023-03-20 13:30:00

GPT-4AI

2021-04-28 14:25:09

比特币加密货币货币

2023-04-12 08:37:43

人工智能AI

2024-03-29 12:48:00

数据训练

2023-02-13 14:37:46

ChatGPT人工智能

2023-09-15 13:15:40

AI科技行业

2016-01-20 14:18:08

人工智能霍金马斯克

2023-07-06 22:35:53

自动驾驶人工智能

2024-04-01 00:00:00

马斯克Grok 1.5HumanEval

2023-06-16 08:07:28

2023-12-13 08:46:33

人工智能ChatGPT机器人

2024-05-15 09:13:37

GPT-4oAI

2023-04-15 19:37:50

OpenAIGPT-5
点赞
收藏

51CTO技术栈公众号