在科技界领袖埃隆·马斯克的社交媒体平台X上，一条令人震惊的虚假新闻头条近日引起了广泛关注：“伊朗用重型导弹袭击特拉维夫”。考虑到本周早些时候，以色列对伊朗在叙利亚的大使馆进行了空袭，造成两名将军和其他官员死亡，伊朗的报复行动似乎在情理之中。然而，事实上，伊朗并未对以色列发动攻击，这一头条新闻完全是虚构的。
更令人担忧的是，这条虚假新闻头条显然是由X平台自家的AI聊天机器人Grok生成的，随后被X的趋势新闻产品Explore在该功能更新版本的首日进行了官方推广。
几年前，当该平台还被称为Twitter时，公司推出了一个新功能，为趋势话题提供了文字解释。Twitter会通过算法捕捉到相关关键词并分享趋势，但有时并不明显为何某组词汇会成为趋势。然而，在2020年，Twitter组建了一个编辑团队，负责策划新闻并将趋势置于语境之中。此外，出现在趋势话题下的顶级推文不再仅仅是通过算法排名，也包括了人工策划。
然而，马斯克在2022年10月收购该公司后不久，趋势话题上的文字解释就消失了。马斯克解雇了Twitter的编辑。据路透社2022年11月报道，“Twitter的策划团队，负责‘突出和提供Twitter上发生的最佳事件和故事的语境’，已经被裁撤。”
本周早些时候，一些X的大V账户，分享了X即将推出的Explore页面重新启动的截图。X的Explore页面包括平台上知名的趋势话题列表，以及特定部分的细分，如“新闻”和“体育”，为用户提供每个特定主题类别下的趋势故事。
马斯克更新后的Explore页面看起来将重新引入对趋势话题和故事提供的文字解释。4月4日，X开始推出其新更新的Explore页面。该更新为每个单独的趋势话题提供了顶级用户帖子以及一个易于消化的主题摘要，并在用户内容之上。页面顶部，X创建的标题以类似于阅读有关该话题文章的方式向读者呈现信息。
此外，该更新还为Explore提供了一个新的、显眼的位置。Explore的趋势故事现在直接嵌入在X主页的右侧边栏中，这里以前是趋势话题列表的位置，每天有数亿X的日常用户查看。
然而，马斯克并未恢复Twitter的策划团队，也未雇用新的人类编辑来撰写X现在提供的内容。文字解释由X的AI聊天机器人Grok编写。
我们知道Grok是一项AI功能，得到了马斯克的大力推广，因为X自己在每个Explore页面的细则中这样说。”Grok是一个早期功能，可能会犯错，”X在Explore页面提供的文字解释下面的小字提醒道。”验证其输出。”
当周四在X平台上的这一虚假新闻页面被发现时，它正在趋势中传播假新闻。这个话题之所以开始进入趋势，是因为一些蓝V账户（向X支付月费以获取高级功能包括验证徽章的用户）突然开始大量复制粘贴关于伊朗攻击以色列的错误信息。由X策划的帖子中充斥着这些经过验证的账户传播的假新闻，还附有一段未经证实的爆炸视频。
从这一点来看，X的算法似乎注意到了这些用户帖子中的潜在故事趋势，并创建了一个探索故事页面。我们可以从X自己对其内部运作的说法中推断出，Grok必然创建了一个官方看起来的文字叙述，以及一个引人注目的标题。它根据某些用户分享的假新闻来完成这一切，试图自动为平台本身似乎认为是真实故事的内容提供上下文。
这并不是Grok首次为用户提供错误信息。早期版本的X聊天机器人在与少数有权限使用的用户进行私聊时，经常制造假新闻。然而，与新Explore功能相结合的这次事件，是X第一次将Grok的错误信息打包成真实趋势新闻故事，并将其推广给全部用户群，作为真实事件的上下文。
在马斯克的领导下，这个被称为X的平台上的虚假信息急剧上升。通过新的Explore产品，该公司推广了一个由付费不良行为者传播的虚假信息，这些不良行为者通过产生互动交换金钱。
在Grok生成这个虚假故事并通过Explore页面推广一天之后，该公司向所有订阅高级服务的X用户推出了Grok，使他们可以使用这个制造错误信息的AI聊天机器人。
相关文章
