Meta公司，作为Facebook和Instagram的母公司，宣布了一项针对数字化创作和修改媒体的重大政策变革。在面临测试其对抗由人工智能技术生成的欺骗性内容能力的选举之前，这一变化格外引人注目。
社交媒体巨头将从5月开始在Facebook和Instagram上发布的AI生成的视频、图片和音频内容上应用“由人工智能制作”标签，这一政策的扩展之前只针对一小部分被篡改的视频内容。内容政策副总裁莫妮卡·比克特在一篇博客文章中表示。
比克特还表示，Meta将对数字化修改的媒体应用单独且更醒目的标签，这些媒体在“重要事项上对公众构成特别高风险的实质性欺骗”，无论这些内容是否使用AI或其他工具创建。Meta将立即开始应用更醒目的“高风险”标签，一位发言人说。
这种方法将改变公司对待被操纵内容的方式，从专注于删除有限的帖子转向保留内容的同时，向观众提供有关内容制作方式的信息。
Meta此前宣布了一项计划，通过使用内置在文件中的不可见标记，来检测使用其他公司的生成式AI工具制作的图像，但当时没有给出开始日期。
公司发言人表示，这种标签方法将适用于在Facebook、Instagram和Threads上发布的内容。其它服务，包括WhatsApp和Quest虚拟现实头盔，适用不同的规则。
这些变化发生在11月美国总统大选几个月之前，科技研究人员警告说，生成式AI技术可能会改变这次选举。政治竞选已经开始在印度尼西亚等地使用AI工具，推动了Meta和生成式AI市场领导者OpenAI等提供商发布的指南的界限。
今年2月，Meta的监督委员会在审查去年在Facebook上发布的乔·拜登的视频后，称公司现有的关于被操纵媒体的规则“不连贯”。该视频通过修改真实镜头错误地暗示了美国总统的不当行为。
由于Meta现有的“被操纵媒体”政策仅禁止误导性修改的视频，如果它们是由人工智能制作的，或者它们使人们似乎说出了他们实际上从未说过的话，所以这段视频被允许保留。
委员会表示，该政策还应适用于非AI内容，这些内容“并不一定比AI生成的内容更具误导性”，也应适用于仅有音频的内容，以及描绘人们做他们实际上从未说过或做过的事情的视频。
相关文章
