蒙眼狂奔?GPT-4狂飙之际微软却被曝砍掉了AI伦理团队

人工智能 新闻
随着GPT-4的发布,微软进一步加速了其AI产品化的步伐。不过最新消息显示,就在微软AI狂飙之际,该公司却裁掉一个负责AI伦理道德的关键团队,该团队确保微软产品以符合伦理的方式引入AI技术。

上个月微软推出AI版必应(Bing)搜索,开启以AI搜索向搜索巨头谷歌挑战的序幕,接着更是将来自投资公司OpenAI的技术运用到各类产品中。随着GPT-4的发布,微软进一步加速了其AI产品化的步伐。

不过最新消息显示,就在微软AI狂飙之际,该公司却裁掉一个负责AI伦理道德的关键团队,该团队确保微软产品以符合伦理的方式引入AI技术。

裁员发生在微软迎来AI幸福时刻之前

今年1月微软曾裁员10000人,当中AI部门的伦理和社会团队被砍掉。这意味着目前微软正在向公众推出AI工具,但微软内部并没有一个专业团队负责将AI原则与产品设计结合在一起。但即便如此,微软仍告诉外界会以负责任态度推进AI。

当然,微软现在内部保留了一个名叫“负责任AI办公室”(Office of Responsible AI)的机构,它为微软AI项目设立规范和原则。但员工似乎对此并不买账。

微软一些员工认为伦理和社会团队相当重要,它们可以确保微软“负责任”的AI原则在产品设计时真正得到体现。一位微软前员工说:“看到负责任AI办公室提供一些原则,有人可能会说:‘我不知道如何应用。’而伦理和社会团队的任务就是向他们演示,给没有规则的地方定出规则。”

在过去几年里伦理和社会团队曾设计一款名叫Judgment Call的角色扮演游戏,它可以帮设计师了解AI可能造成的潜在伤害并在开发时讨论。不久前,团队还帮微软分析了引入OpenAI技术会有何种风险。

团队是逐步被“肢解”的

2020年时微软伦理和社会团队的规模达到最大,不过人数并不多,只有30人,包括工程师、设计师、哲学家。去年10月,因为重组团队人数减少,只剩下大约7人。

在一次会议上,微软AI企业副总裁John Montgomery说,员工们将会被快速转移至它处。“来自CTO和CEO的压力非常非常大,上层要求我们将最新开发的OpenAI模型及之后的模型以最快速度交给客户。”

会上有员工表示不满。一位员工说:“怒我大胆,希望你能重新考虑这个决定。我知道这一决定有业务上的考虑,我也理解……但是伦理和社会团队十分关心我们的工作对社会有何影响,尤其是负面影响。影响是十分巨大的。”

不过John Montgomery拒绝了员工的请求,他说:“我能重新考虑吗?我不能。很不幸,压力还是一样的。”当时John Montgomery并没有说团队会被取消。

的确,当时只是裁减了员工,伦理和社会团队仍然存在,只是人少了之后想推进宏大计划变得有心无力。

3月6日,伦理和社会团队剩余员工开会,John Montgomery明确告诉员工团队将会完全取消。

团队曾预警引入OpenAI工具的风险

就在伦理和社会团队被砍之前,他们正在做一件十分重要的事:预测微软OpenAI工具向全球推广之后会发生什么?

去年该团队曾撰写一份备忘录,详细讨论必应Image Creator的潜在风险。必应Image Creator用到了OpenAI开发的DALL-E系统,它可以根据文本提示制作图片。去年10月必应图片创作工具在多个国家发布。

必应Image Creator相当成功,微软研究人员却警告说,由于任何人都可以轻易模拟艺术家的风格,艺术家生计可能会受到影响。备忘录称:“测试必应Image Creator发现,只需要给AI简单提示,比如输入艺术家的名字和媒介(如绘画、打印、摄影、雕塑),生成的图片就可以与原作媲美,很难分出真假。”

报告认为必应Image Creator可能会损害微软的品牌形象,艺术家以及与他联系的利益相关方也会受到伤害,艺术家和公众可能会抱怨。

去年OpenAI更新服务条款,用户完全拥有DALL-E图片的版权,当时微软伦理和社会团队十分困惑。他们认为:“如果AI生成的图片只是艺术作品的图字模仿品,根据提示制作图片的人却拥有完整版权,这在伦理道德上是讲不通的。”

怎么应对?微软研究人员提出一套方案,比如禁止必应Image Creator用户通过提示信息利用仍然在世艺术家的名字制作AI图片,还有就是创建一个集市出售艺术家作品,如果搜索艺术家名字作品就会弹出来。这些建议并没有被采纳。

微软称在发布之前工具已经修改过,目的是解决备忘录中提到的问题,而且负责任AI办公室也做了很多工作。

那么,你真的会相信微软在砍掉有伦理道德的AI伦理道德团队后,会认真规范AI,让它符合伦理吗?(小刀)

责任编辑:庞桂玉 来源: 极客网
相关推荐

2023-02-02 14:16:39

GPT-4微软

2023-08-02 10:45:43

2023-08-15 10:33:06

微软必应人工智能

2023-06-19 08:19:50

2023-03-14 13:08:33

微软AI风险评估

2023-06-28 08:36:44

大语言模型人工智能

2023-12-26 08:17:23

微软GPT-4

2023-03-10 13:30:01

微软人工智能

2023-03-17 22:10:53

ChatGPTOpenAIGPT-4

2023-12-16 09:45:56

论文GPT-4AI

2023-12-17 22:04:04

微软GPT-4

2023-07-19 21:57:25

Office版微软企业版

2023-03-29 07:33:33

2023-08-15 15:03:00

AI工具

2023-04-23 11:25:48

AIGPT-4

2023-03-20 21:44:10

微软GPT-4AI

2023-03-28 13:01:20

GPT-4开发OpenAI

2023-03-16 19:17:57

2023-05-03 20:53:48

2023-11-18 09:43:46

人工智能模型
点赞
收藏

51CTO技术栈公众号