大水冲了龙王庙!AI第一天上班就惹祸了,Grok编的假新闻上了X平台“热搜”;硅谷裁员潮是不是该停停了?

原创 精选
新闻
无论我们是否喜欢,这些变化好像仍将继续。有媒体认为,马斯克的裁员策略几乎影响到整个硅谷,X通过大幅度裁员节约成本的做法,正在被其他巨头公司参考和跟进。

编辑 | 伊风

出品 | 51CTO技术栈(微信号:blog51cto)

上周,马斯克的 X 网站 “头版 ”出现了一则令人震惊的国际新闻:

标题为 “伊朗用重型导弹袭击特拉维夫”。

图片图片

考虑到此前以色列的空袭,这条新闻一经发出便引起人们对战争升级的普遍担忧。然而,轰炸并未真实发生过——这条新闻是X平台自家的机器人Grok AI生成的!

X 刚刚宣布在趋势(相当于微博发现和热搜功能)引入Grok。没想到,第一天来上班的 AI 就造了一个大乱子!

究竟为什么会发生这种事?

上图:请点击“探索”按钮查看Grok AI为你创造的实时个性化新闻上图:请点击“探索”按钮查看Grok AI为你创造的实时个性化新闻

1.从马斯克的“大裁员”开始说起

和微博等平台的热搜榜一样,X 平台的趋势可以帮助用户了解目前的热门话题。在 X 上,话题的趋势是实时的,可能有几个小时的短期运行期,也可能有 24 到 48 小时的长期运行期。

趋势大多针对每个用户的账户和时间线,结合用户关注的对象、兴趣和位置等因素由算法进行内容推荐。

当一条新闻被广泛讨论时,Twitter (那时还没有改名)的算法会捕捉到发布的相关关键词并分享趋势,但有时并不清楚一组特定的词语为何会成为趋势。

2020年起,Twitter 开始重视在事实核查上的投入,旨在阻止谣言和假新闻的病毒式传播。

图片图片

当年9月,Twitter 组建了一支人工编辑团队,负责策划新闻,并将趋势与上下文联系起来。此外,热门话题下显示的热门推文将不再只是算法排名,还包括人工策划。

一年后,Twitter 与美联社和路透社合作,进一步加强了为热门话题提供人工背景信息的工作,以“为每天在 Twitter 上发生的广泛的全球话题和对话提供及时、权威的背景信息”。

然而,马斯克的上任改变了这一切。2022 年 10 月,马斯克宣布裁员超过 80%,员工人数从约 8,000 骤降到 1,500 人,被裁掉的当然也包括人工编辑团队。不久后,平台的趋势话题就不再提供文字说明。

据路透社2022年11月报道,"Twitter的策划团队已被裁撤,该团队负责'突出Twitter上发生的最佳事件和故事,并增添背景信息使其连贯'"。

马斯克曾在推特上表示:Twitter 对内容审核的坚定承诺绝对不会改变。但激烈的裁员举措让他难以允诺——失去了监控推文中的暴力、仇恨和其他违禁内容的团队,推特上的新闻内容有时无可避免地走向混乱。这件事也间接导致苹果和通用汽车在内的大批广告主选择撤离了 X 平台。

2.失去了人类“把关者”,AI难扛新闻大旗

在上周的假新闻事件之前,@XDaily 等一些 X 粉丝账户分享了 X 即将推出的更新后的 "探索 "页面截图。

图片图片

根据演示的demo内容,马斯克更新后的 "探索 "页面将重新为热门话题和故事提供文字背景。

图片图片

4 月 4 日,更新的 "探索 "页面正式在X上推出。这次更新提供了每个热门话题的热门用户帖子,并在页面左上角补充了用户易于消化的主题摘要。在页面的最上方,X 创建的标题将信息呈现给读者,就像他们即将阅读一篇真正的新闻一样。

图片图片

从上图(热门 X 用户 Hasan Piker 提供的截图)中可以看到,人工智能生成的有关轰炸一事的虚假新闻标题正在该平台的主页侧边栏上流行。

对于Grok来说,错误地生成了 "伊朗用重型导弹袭击特拉维夫 "这一标题,是它在X的 "探索 "功能上生成上下文摘要的功能,这可能是大模型根据平台中的关键词进行的联想,或者根据一些用户的谣传进行撰写的。总之,这条新闻被作为热门新闻推广了。

看来,马斯克并没有让 Twitter 的策划团队回归,也没有聘请新的人工编辑来撰写 X 现在提供经过事实核查的上下文。

这些工作被“放心”地交付给 X 的人工智能聊天机器人 Grok 撰写。

1996 年,美国通过《电信法案》第五编,其中有条款(230节)规定在线计算机服务对其用户生成的第三方内容享有豁免权,无需为内容承担民事责任。该条款的两位作者提出,为了保护保护当时不断发展的互联网,交互式计算机服务应被视为传播者,不应对其传播的内容负责。   

现在,AI也许正面临着同样的境地:潜力无限,但尚未成熟。不过,鉴于社交媒体在今日生活中无可取代的影响力,很多网友呼吁着手改变条款中的规定,让AI承担起责任,就像报纸所做的那样。

3.盲目的裁员潮或许是时候叫停了

疯狂的裁员策略将那些本应由人类去做的工作,交给了AI。但问题是AI无法胜任——起码现在还做不到。

就像我们在生活中接到由AI拨出的客服或推销电话,那些不能理解人类意图的机械声音,或许只能徒增我们的烦恼。

无论我们是否喜欢,这些变化好像仍将继续。有媒体认为,马斯克的裁员策略几乎影响到整个硅谷,X通过大幅度裁员节约成本的做法,正在被其他巨头公司参考和跟进。

硅谷的互联网行业已经经历了两年的大规模裁员。根据预测,2024 年有望成为 IT 行业复苏的一年。Gartner 预测,2024 年全球 IT 支出将增长 8%,超过 5.1 万亿美元,但该行业的就业难似乎仍在继续(另一方面AI人才却被多家巨头公司争抢)。

去年,亚马逊、思科、Facebook 母公司 Meta、微软、谷歌、IBM、SAP 和 Salesforce 等科技巨头以及许多小公司都宣布了大规模裁员。

在增速放缓的大背景下,国内互联网巨头也并不好过。阿里和字节跳动在内的多家大厂,也宣布了不同规模的裁员和缩编。去年11月,阿里云曾经“崩”上了微博热搜,包括淘宝、闲鱼、滴滴在内的多款国民级应用都经历了不同程度的瘫痪。而裁员,尤其是高级技术人员的流失,及随之而来的管理问题,被外界推测是当时阿里云发生大规模故障的主要原因。

盲目裁员并不能通向企业管理所向往的组织精简和效率提高,反而带来诸多问题。bug也许是最快能修缮的,但用户对平台信任的丧失却很难弥补。在看到AI提高生产力的巨大潜力的同时,企业管理者也必须保持清醒的头脑,在平衡组织规模上做出更理性的判断。

别让AI的“降本增效”变成了“降本增笑”。

参考链接:

1.https://mashable.com/article/elon-musk-x-twitter-ai-chatbot-grok-fake-news-trending-explore

2.https://www.computerworld.com/article/1617283/tech-layoffs-in-2023-a-timeline.html

责任编辑:武晓燕 来源: 51CTO技术栈
相关推荐

2012-03-06 21:12:02

Windows 8

2021-05-17 08:11:44

MySQL数据库索引

2021-02-03 21:15:44

Ansible系统运维系统管理员

2020-02-03 13:30:54

钉钉企业微信移动应用

2012-08-10 22:44:52

ArchSummit

2014-08-04 10:58:06

OpenstackRDOOpenstack搭建

2021-03-29 08:20:51

入职后端官场

2021-02-23 07:08:04

分布式文件

2021-07-15 09:53:24

互联网服务器崩溃

2012-06-25 11:27:43

2010-06-02 17:23:10

JavaJazoon

2020-02-04 09:15:32

云计算

2022-09-14 11:34:46

首席信息官IT价值

2015-07-31 10:01:55

win10使用总结

2022-09-03 19:16:29

JavaPythonPHP

2017-11-13 12:02:33

程序猿华为软件

2023-01-01 13:17:00

ChatGPTAI

2014-08-11 13:10:48

2013-08-02 17:19:21

2010-03-03 12:37:04

慎防陷阱
点赞
收藏

51CTO技术栈公众号