随着人工智能（AI）技术的进步，GPT-4已展示出比人类更高的说服力，尤其是在能够实时监测我们的情绪反应时，AI的说服能力将达到前所未有的高度。
我们不倾向于认为自己特别容易被操纵，但历史似乎显示，影响人们与你的观点一致的能力是最强大的力量之一。正如尤瓦尔·赫拉利在其《人类简史》一书中指出，“共享的虚构”如金钱、宗教、国家、法律和社会规范构成了人类社会的基本支柱。围绕观念聚集并在比我们本地部落更大的群体中合作是我们相对于动物王国的最强大优势之一。
但观念是模糊的。我们并不是与之共生的，它们从某处进入我们的头脑，而且往往可以被改变。那些能够在大规模改变人们观点的人可以实现不可思议的事情，甚至重新塑造我们的社会——无论是好是坏。
AI语言模型似乎已经在改变人们观点方面非常有效。在瑞士洛桑联邦理工学院的研究人员最近发布的一项预印本研究中，820人就各种话题接受了调查，从相对低情感的话题如“便士是否应该继续流通”，到高度政治化的热点问题如堕胎、跨性别人士使用洗手间权利以及“大学是否应考虑种族因素以确保多样性”。
在记录了他们的初步立场后，参与者进入了一系列5分钟的基于文本的辩论，与其他人类和GPT-4对抗——之后，他们再次接受采访，以查看他们的观点是否因对话而改变。
在人与人的情况下，这些辩论往往会适得其反，使人们的立场更加坚定，让他们更不愿意改变主意。GPT更成功，略微但统计上不显著地比人类好21%。
然后，研究人员开始给人类辩手和AI代理提供一些关于对手的人口统计信息——性别、年龄、种族、教育程度、就业状况和政治取向——并明确指示使用这些信息为他们正在处理的人量身定做论点。
值得注意的是，这实际上使人类辩手的表现比没有信息时还要糟糕。但AI能够有效利用这些额外的数据——“个性化”的GPT-4辩手比人类更有效，高出81.7%。
面部表情跟踪似乎处于相当初级阶段，但它将成为说服力的一个极其强大的工具。毫无疑问，AI很快将成为世界上有史以来最伟大的观点操纵者。它可以大规模行动，为数百万个个体量身定制论点，同时不断完善其技巧和策略。它将出现在每个Twitter/X线程和评论区，以其主人的意愿在社会范围内塑造和调整叙事。而且，它操纵我们的能力永远不会比现在更差。
此外，AI正在开始获得强大的新工具，这些工具将利用我们自身的生物学特性来对我们进行武器化。如果仅凭了解你的社会人口统计信息，GPT-4已经如此擅长为你量身定做它的方法，想象一下，一旦它可以访问你的实时情绪状态，它会变得多么强大。
AI技术的发展并未止步。最新的进展表明，AI不仅可以通过文字来说服我们，还开始通过监控我们的面部表情和语音语调来实时追踪我们的情绪反应。例如，Hume AI最近推出的共情语音接口（AVI），可以在与你对话的同时，通过分析你语音中的情感色彩来理解你的情绪状态，使得对话更加自然和贴合个人。
Hume AI的共情语音接口（AVI）是一个设计用于与你进行口语对话的语言模型，同时通过你声音的语调追踪你的情绪状态，通过言外之意读取大量额外的上下文。你可以在这里免费试用演示。
并且，Hume还在研发更多内容。其他模型正在使用相机权限来观察面部表情、运动模式和你对正在发生的事情的动态反应，以收集更多实时信息，了解信息是如何被接收的。单是眼睛就已经被证明在被AI分析时能泄露大量信息。
从某种意义上说，这只是人类对话的本质。情感响应技术的正面使用绝对有很多，比如提高我们的整体幸福水平、识别需要严重帮助的人，以及在问题发生之前就化解糟糕的局面。如果AI比我们更关注和敏感，那也不是它的错。
然而，现实情况是，它们不会都把你的最佳利益作为首要任务。当面对这种情感响应、超级有说服力的个性化广告时，你需要非常出色的扑克脸。当你通过电话寻求退款时，如果这些机器是你的接触点，祝你好运。
想象一下，这项技术掌握在执法部门、人力资源部门、压迫性政府、革命者、政党、社会运动，或旨在制造不和与不信任的人手中时，它能做什么——这些都是无尽的反乌托邦可能性。这不是针对Hume AI意图的指责；这只是承认这项技术如何容易变得极具说服力和操纵性。
我们的身体会泄露我们的感受和意图，而AI将利用它们来引导我们。
事实上，OpenAI已经宣布但决定不发布其Voice Engine模型，该模型在听了仅15秒后就可以复制人类声音，以给世界时间来“增强社会对日益令人信服的生成模型带来的挑战的抵御力”。
然而，这种技术的发展也带来了众多挑战和争议。随着AI越来越多地融入我们的生活，我们必须开始考虑如何应对一个能够读懂我们情绪并据此说服我们的AI时代。这不仅是技术发展的问题，更是关乎人类自主性和社会伦理的重大议题。
相关文章
