拜登-赫尔采访音频因 AI 深度伪造风险被美国司法部保密|TodayAI

人工智能新闻1个月前发布 TodayAI
1,567 0 0
PonderAI-智能助手

拜登-赫尔采访音频因 AI 深度伪造风险被美国司法部保密|TodayAI

近日,美国司法部决定将总统乔·拜登与特别检察官罗伯特·赫尔的音频采访保密,主要原因是人工智能生成的深度伪造技术(AI deepfakes)带来的威胁。司法部在周五的法院文件中称,拜登试图利用行政特权隐藏音频的行为遭遇法律挑战,并公开表示将音频保密的理由。

司法部在提交的文件中承认,目前公开领域中已经有足够的音频可以生成拜登和赫尔的AI深度伪造。然而,司法部认为,公开原始录音会使反驳任何错误版本更加困难。政府声称,随着时间的推移和人工智能、深度伪造及音频技术的进步,对音频记录的恶意篡改的担忧不断加剧。

司法部表示,如果公开音频记录,很有可能会被不当篡改,并且修改后的文件可能会被误认为是真实记录并广泛传播。保守的法律组织和众议院共和党人正对拜登政府施加巨大压力,要求强制公开录音。司法部的采访记录显示总统在多个尴尬的情况下。

不仅仅是司法部,对AI深度伪造的担忧在各种政府机构中也越来越普遍。最近,国土安全部在其最新的联邦公报中发出了警告。根据国土安全部的研究,并已与全国执法合作伙伴分享,外国和国内行为者可能会利用技术在2024年选举周期中制造严重障碍。

联邦公报是偶尔向执法合作伙伴发出的关于特定危险和问题的警报。该公报警告称,AI能力可能会促进试图影响2024年美国选举周期的企图。通过加剧突发事件、干扰选举进程或瞄准选举基础设施,生成性AI技术可能为国内外威胁行为者提供更多机会来影响2024年选举周期。

不仅联邦政府对AI深度伪造表示担忧,亚利桑那州官员阿德里安·丰特斯也发布了一段自己的深度伪造视频,以警示同样的技术。州务卿发布了一段影片,提醒选民注意AI生成的深度伪造和其他伪造的政治内容的风险。

在这段视频中,丰特斯发出了警告,但实际上是丰特斯的深度伪造视频,旨在强调警告并展示AI生成内容对不知情者的可信度。视频的介绍、描述和免责声明都告知观众这只是对真实人物的“模仿”。尽管深度伪造视频中的面部表情奇怪且说话方式机械僵硬,但视频看起来非常像亚利桑那州官员的真实镜头。

丰特斯表示,他计划制定应对伪造内容的协议,并确保选举官员熟悉人工智能可能如何被利用来传播误导性信息。

随着AI技术的不断进步,政府和社会各界对其潜在的滥用和风险越来越重视。此次拜登-赫尔采访音频的保密决定,正是为了应对这一新的技术挑战,保护公共信息的真实性和安全性。

拜登:健忘但善意的老人

拜登-赫尔采访音频因 AI 深度伪造风险被美国司法部保密|TodayAI

“拜登接受特别检察官赫尔采访”指的是美国总统乔·拜登在2023年10月接受特别检察官罗伯特·赫尔的采访,拜登与赫尔会面了大约五个小时,期间他被问及如何处理机密文件。

这次采访的部分内容和细节在今年早些时候被公开,赫尔的报告称拜登是个健忘但善意的老人,显示拜登在回忆一些事件时出现了记忆模糊的情况。特别是,赫尔在报告中提到拜登有时候无法记住具体的日期和事件​,包括他担任副总统的时间以及他儿子博·拜登去世的年份。尽管如此,白宫和司法部认为这些录音属于行政特权范围,拒绝向国会提供完整的录音,以避免将来在类似高调调查中影响证人的自愿合作。

白宫对音频记录的保护引发了国会共和党人的不满,他们要求获得这些录音以继续他们的调查,但白宫坚持认为这种要求是出于政治目的,可能会扭曲音频内容​。

拜登-赫尔采访音频因 AI 深度伪造风险被美国司法部保密|TodayAI
© 版权声明

相关文章