人工智能为 2024 年带来政治风险，可能会误导选民

多年来，计算机工程师和热衷于技术的政治学家一直警告说，廉价、强大的人工智能工具很快就会让任何人创造出足够逼真的假图像、视频和音频来愚弄选民，并可能影响选举。

出现的合成图像是 经常粗暴， 没有说服力 并且制作成本高昂，尤其是当其他类型的错误信息如此便宜且易于在社交媒体上传播时。 人工智能和所谓的威胁 深度造假 似乎总是一两年后。

不再。

先进的生成式 AI 工具现在可以创建 克隆人的声音 和 在几秒钟内以最低的成本获得超逼真的图像、视频和音频。 当绑定到强大的社交媒体算法时，这种虚假和数字创建的内容可以传播得更远、更快，并针对高度特定的受众，有可能将竞选肮脏的把戏推向新低。

对 2024 年竞选和选举的影响既大又令人不安：生成式人工智能不仅可以快速生成有针对性的竞选电子邮件、文本或视频，还可以用于 以前所未有的规模和速度误导选民、冒充候选人并破坏选举。

“我们没有为此做好准备，”网络安全公司 ZeroFox 的情报副总裁 AJ Nash 警告说。 “对我来说，巨大的飞跃是已经出现的音频和视频功能。 当你能大规模地做到这一点，并在社交平台上传播时，它就会产生重大影响。”

人工智能专家 可以迅速说出一些令人担忧的场景，在这些场景中，生成人工智能被用来创建合成媒体，目的是混淆选民、诽谤候选人甚至煽动暴力。

以下是其中一些： 以候选人的声音发出的自动机器人电话信息，指示选民在错误的日期投票； 据称承认犯罪或表达种族主义观点的候选人的录音； 显示某人发表演讲或 面试 他们从不给。 伪造的图像看起来像当地的新闻报道，谎称候选人退出了比赛。

“如果埃隆马斯克亲自打电话给你，让你投票给某个候选人怎么办？” Allen Institute for AI 的创始首席执行官 Oren Etzioni 说，他去年卸任并创办了非营利组织 AI2。 “很多人会听。 但那不是他。”

将于 2024 年参选的前总统唐纳德特朗普在社交媒体上与他的追随者分享了人工智能生成的内容。 特朗普周五在他的 Truth Social 平台上分享了 CNN 主持人安德森库珀的一段经过处理的视频，该视频扭曲了库珀对 美国有线电视新闻网市政厅 上周 与特朗普一起，是使用人工智能语音克隆工具创建的。

共和党全国委员会上个月发布的一则反乌托邦竞选广告让我们对这个数字化操纵的未来有了又一瞥。 之后出现的在线广告 乔·拜登总统宣布了他的连任竞选活动，并以一张奇怪的、略微扭曲的拜登形象和文字“如果我们有史以来最软弱的总统再次当选怎么办？”开始。

以下是一系列人工智能生成的图像：台湾受到攻击； 在经济崩溃时用木板封死了美国的店面； 士兵和装甲军车在当地街道巡逻，纹身罪犯和移民浪潮制造恐慌。

“如果乔·拜登 (Joe Biden) 在 2024 年再次当选，人工智能将对国家可能的未来进行展望，”RNC 的广告描述中写道。

位于德克萨斯州奥斯汀的网络安全公司 Forcepoint 的全球首席技术官 Petko Stoyanov 表示，RNC 承认其使用了人工智能，但其他人，包括邪恶的政治运动和外国对手，不会。 斯托亚诺夫预测，想要干涉美国民主的团体将利用人工智能和合成媒体来削弱信任。

“如果一个国际实体——网络犯罪分子或民族国家——会发生什么 冒充某人。 有什么影响？ 我们有办法吗？” 斯托亚诺夫说。 “我们将从国际来源看到更多错误信息。”

在 2024 年大选之前，人工智能生成的政治虚假信息已经在网上疯传，来自 拜登的篡改视频 似乎在发表攻击变性人的演讲 人工智能生成的儿童图像 据说在图书馆学习撒旦教。

人工智能图像 似乎在展示特朗普的大头照 还愚弄了一些社交媒体用户，尽管这位前总统在曼哈顿刑事法庭因伪造商业记录而被预定和传讯时并没有接受。 其他人工智能生成的图像显示 特朗普拒绝逮捕，尽管他们的创造者很快承认了他们的来源。

纽约州众议员伊维特·克拉克 (Yvette Clarke) 在众议院提出了一项立法，要求候选人在使用 AI 创建的竞选广告上贴上标签，他还发起了一项立法，要求任何创建合成图像的人都添加一个水印来表明这一事实。

一些州已经提出 他们自己的建议 用于解决对 deepfakes 的担忧。

克拉克说，她最担心的是生成式人工智能可能会在 2024 年大选前被用来制作煽动暴力并让美国人互相敌对的视频或音频。

“重要的是我们跟上技术的发展，”克拉克告诉美联社。 “我们必须设置一些护栏。 人是可以被骗的，而且只是一瞬间。 人们忙于生活，没有时间检查每一条信息。 人工智能被武器化，在政治季节，它可能会极具破坏性。”

本月早些时候，华盛顿的一个政治顾问行业协会 谴责使用 deepfakes 在政治广告中，称它们为“欺骗”，“在合法的、道德的竞选活动中没有立足之地”。

多年来，其他形式的人工智能一直是政治竞选活动的一个特色，使用数据和算法来自动执行任务，例如在社交媒体上瞄准选民或追踪捐助者。 竞选策略师和科技企业家希望最新的创新也能在 2024 年带来一些积极影响。

进步数字机构 Authentic 的首席执行官 Mike Nellis 说，他使用 聊天GPT “每一天”，并鼓励他的员工也使用它，只要使用该工具起草的任何内容事后都经过人眼审查。

Nellis 与 Higher Ground Labs 合作的最新项目是一种名为 Quiller 的人工智能工具。 它将编写、发送和评估筹款电子邮件的有效性——所有这些通常都是竞选活动中的乏味任务。

“这个想法是每个民主党战略家，每个民主党候选人的口袋里都有一个副驾驶，”他说。

___