各州在应对政治造假方面落后，2024年之前潜在的威胁尚未得到遏制

　　

　　

　　当谈到应对人工智能和深度造假在政治竞选中构成的挑战的政策时，大多数州的立法者仍然盯着空白屏幕。

　　2023年，只有三个州颁布了与这些快速增长的政策领域相关的法律——尽管人工智能和深度伪造可能带来的规模、规模和潜在威胁在这一年变得更加清晰。

　　距离2024年选举年正式开始只有几周时间了，监管这些空间的支持者警告说，各州必须努力做得更多:不仅是因为联邦政府没有采取行动，还因为不同州首府的不同方法可以让人们强烈地感觉到什么是有效的，什么是无效的。

　　无党派机构布伦南中心(Brennan Center)的选举和政府项目主任丹尼尔·韦纳(Daniel Weiner)密切关注这一问题，他说:“毫无疑问，各州需要做得更多。”“我认为我们等不起了。”

　　各州迟迟不解决这一问题的原因有很多，韦纳和其他专家解释说:潜在的法规需要与第一修正案的权利相协调，并经受住法律挑战。生成式人工智能和深度假技术正在迅速发展和变化。许多州的立法者还不知道如何应对这些问题，因为他们没有充分了解这些问题。而且，至关重要的是，任何执行机制都将取决于包括大型社交媒体公司在内的广泛各方。

　　尽管如此，韦纳和其他人警告说，各州现在需要开始应对这些挑战。

　　韦纳说:“在过去的一两年里，(来自深度造假的)真正具有破坏性的可能性已经完全爆发出来。”“但我们已经有了有效的政策解决方案，所以我认为人们应该卷起袖子，开始工作。”

　　深度造假是指使用人工智能来制作真实人物的可信但虚假描述的视频。近几个月来，这种情况在网上变得越来越普遍，这促使一些专家警告说，2024年的大选可能是第一次“深度假选举”，因为选民可能会在网上看到政治虚假信息视频，而无法判断哪些是真的，哪些是假的。

　　据追踪该主题相关法案的全国州议会会议(National Conference of State Legislatures)称，2023年，只有明尼苏达州、密歇根州和华盛顿州颁布了试图解决这一问题的法律。所有法案都在两党的支持下获得通过。另有七个州提出了旨在解决这一问题的法案，但这些提案要么停滞不前，要么失败了。

　　所有的法案都分为两类——披露要求和禁令——并且可能成为其他州未来立法的典范。

　　华盛顿州5月份颁布的一项法律要求披露被用来影响选举的“合成”媒体。

　　该法律将“合成”定义为“使用生成对抗网络技术或其他数字技术故意操纵个人外表、言论或行为的任何图像、音频或视频，以创造真实但虚假的图像、音频或视频”。

　　明尼苏达州议员今年8月颁布了一项法律，禁止在该州选举前90天的窗口期内发布“影响选举的深度虚假媒体”。

　　如果某人“知道或合理地应该知道所传播的内容是深度假货”，则可以根据该法律被起诉;如果媒体是“未经所描绘的个人同意”共享的;并“故意伤害候选人或影响选举结果”。

　　法律将这一罪行定义为轻罪，大多数罪行可判处90天监禁或最高1000美元的罚款。

　　密歇根州上个月颁布的一项法律同时采用了禁令和披露要求。它禁止在选举前90天“传播具有实质性欺骗性的媒体”。然而，如果材料中包含声明媒体被“操纵”的披露，则该禁令将不会执行。根据广告是图像、视频、音频还是文本，操纵有不同的方式。

　　根据密歇根州的法律，禁令的执行还取决于责任人是否知道媒体“虚假地代表”其中所描述的人，以及该人“意图在选举中损害候选人的声誉或选举前景”。

　　该法律将首次违反规定定义为轻罪，可处以最高90天监禁或最高500美元罚款。

　　在2023年之前，加利福尼亚州、德克萨斯州和威斯康星州是仅有的三个颁布了旨在解决选举中人工智能问题的立法的州。

　　近几个月来，许多社交媒体和科技巨头也采取了措施。

　　去年11月，拥有Facebook和Instagram的meta和微软(Microsoft)表示，它们将开始要求其社交媒体平台上的政治广告披露它们是否在人工智能的帮助下制作。谷歌在9月份发表了类似的声明。

　　专家表示，鉴于联邦政府尚未解决这一问题，州政府的行动在即将到来的立法会议中将尤为重要。

　　美国参众两院旨在规范在政治竞选中使用人工智能深度造假的提案尚未取得进展。虽然联邦选举委员会(Federal Election Commission)今年8月宣布将采取措施，对竞选广告中的深度造假行为进行监管，但该机构尚未宣布在这方面取得多大进展。

　　美国总统拜登(Joe Biden)去年10月发布了一项行政命令，鼓励利益相关者考虑重要的安全问题。该命令要求商务部制定关于“水印”人工智能内容的指导方针，以明确某些深度伪造视频不是由人类制作的。

　　联邦政府采取这些渐进式举措之际，正值美国进入混乱的选举年，人工智能和深度造假在竞选广告中的应用可能会使选举年变得更加难以预测——这一事态发展今年已经浮出水面。

　　最突出的例子之一是今年6月，佛罗里达州州长罗恩·德桑蒂斯(Ron DeSantis)的总统竞选团队发布了一则攻击唐纳德·特朗普的广告，其中包括人工智能生成的前总统拥抱安东尼·福奇(Anthony Fauci)博士的画面，后者是美国国家过敏和传染病研究所(National Institute of Allergy and Infectious Diseases)前所长、拜登的前首席医疗顾问。

　　许多类似的案件可能还会发生，专家警告说，其结果可能是破坏性的。

　　政府监督机构“公众公民”(Public Citizen)的主席罗伯特·韦斯曼(Robert Weissman)在一份声明中表示:“在选举日前不久发布的深度造假照片——可能是候选人喝醉了，或者说话语无语无，或者与一个声名狼藉的人物交往——很容易影响一场势分接近的选举。”该组织已向联邦选举委员会请愿，要求对深度造假采取更积极的行动。“大量的深度造假可能会让选民无法区分什么是真的，什么是人造的。”

　　“深度造假的盛行可能会让候选人否认真实内容的有效性，”他补充说，“把它简单地斥为虚假。”