参议院共和党人的一则新攻击广告使用了参议员查克·舒默(Chuck Schumer)关于政府关门的真实言论，但采用了民主党参议院少数党领袖的人工智能深度伪造。
周五，全国共和党参议院委员会在 X 和 YouTube 上发布的这段 30 秒的视频引起了许多观察人士的警惕，他们警告称，该视频跨越了政治的新界限，可能会引发大量人工智能生成的深度伪造攻击广告。
该视频的标题为“舒默停摆的第三周：‘我们的每一天都变得更好’”，视频中人工智能生成的舒默不断重复着这些话，并咧着嘴笑。视频最后，舒默微笑着，旁白说道：“舒默的政府关门让整个美国的情况变得更糟，民主党人喜欢这样。”
“我们的每一天都在变得更好”，这是舒默在 10 月 9 日向政治网站 Punchbowl News 发表的一篇有关政府关门的文章中引用的一句话。他继续说道：“这是因为我们早就考虑到了这一点，我们知道医疗保健将成为 9 月 30 日的焦点，我们为此做好了准备……他们的整个理论是——威胁我们，欺骗我们，我们会在一两天内屈服。”
然而，最初的故事只包括舒默声明的文字，没有视频或音频。
NRSC 宣布该广告的新闻稿将其描述为“可视化”舒默的评论，并表示该广告“部分使用人工智能软件创建，并包含人工智能免责声明”。
舒默的假镜头包括 NRSC 徽标的小透明水印以及右下角的“AI GENERATED”字样。在 YouTube 上，该视频带有额外的“更改或合成内容”标签，上面写着“声音或视觉效果经过重大编辑或数字化生成”。
“这些是查克·舒默自己的话，”NRSC 通讯总监乔安娜·罗德里格斯在给 Tuugo.hk 的电子邮件中说。 “我们知道舒默希望人们不知道他说过这句话，但他确实说了，这段视频是让选民看到和听到他对政府关门有多么自豪的一种方式。”
舒默办公室没有回应置评请求。
加州大学伯克利分校研究操纵媒体的教授哈尼·法里德 (Hany Farid) 表示，尽管舒默确实说过这句话，但利用人工智能发明虚假视频片段的做法有些过界。
“如果他们想使用这句话，那么他们可以展示舒默的图像并覆盖这句话，就像经常做的那样。不能合理地认为创建参议员舒默的深度伪造是同一件事，”他说。
此外，法里德表示，视频右下角的免责声明“并不是特别清晰或明显的披露，特别是当大多数用户注定要滚动浏览他们的社交媒体帖子时。”
NRSC 的视频还受到了社交媒体上的记者和其他评论者的批评，其中包括右倾出版物的记者。
华盛顿自由灯塔的政治记者乔恩·莱文 (Jon Levine) 在 X 上写道：“舒默的部分是人工智能生成的视频，该视频在右下角公开，但我们正站在一个可怕的新世界的门口。”
“NRSC 越来越倾向于在广告中使用人工智能，但这是我第一次看到他们使用它来制作对手的虚假视频。这是一个滑坡，即使在角落里有微小的人工智能披露，”《华盛顿观察报》的国会记者拉姆齐·塔奇贝里 (Ramsey Touchberry) 在 X 上发帖称。
在批评声中，NRSC 的 Rodriguez 在她自己的 X 账户上写道：“人工智能就在这里，不会去任何地方。适应并获胜，否则就会失败。”
这并不是共和党人第一次使用人工智能来冒充舒默和其他民主党人。在政府关门前夕，特朗普总统在 Truth Social 上发布了一段显然是人工智能生成的、含有脏话的视频，捏造舒默说“没有人喜欢民主党了”。视频中，众议院少数党领袖哈基姆·杰弗里斯也戴着卡通阔边帽，留着小胡子。
但与 NRSC 的舒默视频不同的是，早期的例子很容易被认为是不真实的。
法里德警告说，人工智能造假在政治中日益盛行可能会产生腐蚀作用。
他说：“虽然我认为我们的领导人不应该发布欺骗性的深度伪造内容，但他们也面临着这样的风险：当他们发布真实内容时，公众将有充分的理由质疑其真实性。”
