美国情报官员周一表示,俄罗斯是使用人工智能生成针对 2024 年总统选举的内容最多的外国影响者。
国家情报总监办公室一位不愿透露姓名的官员表示,尖端技术使俄罗斯和伊朗能够更容易地快速、更有说服力地定制经常两极分化的内容,以影响美国选民。在发布会上告诉记者。
这位官员表示:“(情报界)认为人工智能是一种恶性影响的助推器,而不是一种革命性的影响工具。” “换句话来说,信息作战是威胁,而人工智能是推动者。”
情报官员此前曾表示,他们看到人工智能被用于海外选举。 “我们今天的更新清楚地表明,这种情况正在这里发生,”国家情报总监办公室官员表示。
官员们表示,俄罗斯的影响力行动已在网上传播合成图像、视频、音频和文本。其中包括人工智能生成的“美国名人的内容”以及旨在强调移民等分歧问题的材料。官员们表示,这符合克里姆林宫提振前总统唐纳德·特朗普并诋毁副总统卡马拉·哈里斯的更广泛目标。
但俄罗斯也在使用技术含量较低的方法。国家情报总监办公室官员表示,俄罗斯有影响力的演员制作了一段视频,其中一名妇女声称自己是 2011 年哈里斯肇事逃逸事件的受害者。目前没有任何证据表明这件事曾经发生过。上周,微软还表示,俄罗斯是该视频的幕后黑手,该视频是由一个自称不存在的旧金山当地电视台的网站传播的。
国家情报总监办公室官员表示,俄罗斯也是哈里斯演讲视频的幕后黑手。它们可能已使用编辑工具或人工智能进行了更改。它们通过社交媒体和其他方法传播。
“我们看到俄罗斯影响者所做的努力之一是,当他们创建这种媒体时,试图鼓励其传播,”国家情报总监办公室官员表示。
这位官员表示,哈里斯的视频经过了多方面的修改,“无论是个人还是与她的对手相比,都给她留下了不好的印象”,并重点关注俄罗斯认为存在分歧的问题。
官员称,伊朗还利用人工智能生成社交媒体帖子,并为冒充合法新闻媒体的网站撰写虚假故事。情报界表示,伊朗正寻求在 2024 年大选中削弱特朗普的实力。
官员们表示,伊朗已利用人工智能以英语和西班牙语创作此类内容,并针对包括加沙战争和总统候选人在内的“两极分化问题上各个政治派别”的美国人。
官员们表示,中国是美国选举的第三个主要外国威胁,它正在利用人工智能进行更广泛的影响力行动,旨在塑造全球对中国的看法,并扩大美国国内的分歧话题,例如吸毒、移民和堕胎。
然而,官员们表示,他们尚未发现任何针对美国投票结果的人工智能行动。情报界表示,北京的影响力行动更侧重于美国的投票选举,而不是总统竞选。
美国官员、立法者、科技公司和研究人员一直担心人工智能操纵可能会颠覆今年的竞选活动,例如描绘候选人做或说的事情的深度伪造视频或音频,或者在投票方面误导选民过程。
尽管随着选举日的临近,这些威胁可能仍然会成为现实,但到目前为止,人工智能已经以不同的方式更频繁地使用:被外国对手用来提高生产力和增加数量,以及被政治党派用来制造表情包和笑话。
周一,国家情报总监办公室官员表示,外国行为者在克服人工智能生成内容对美国选举构成更大风险的三个主要障碍方面进展缓慢:首先,克服许多人工智能工具内置的护栏而不被发现;第二,开发自己的成熟模型;第三,战略性地定位和分发人工智能内容。
随着选举日的临近,情报界将监视外国以各种方式引入欺骗性或人工智能生成的内容的行为,包括“通过名人洗钱”、使用虚假社交媒体帐户或冒充新闻媒体的网站,或国家情报总监办公室的报告称,“发布了所谓‘泄露’的人工智能生成内容,这些内容看起来敏感或有争议。”
本月早些时候,司法部指控俄罗斯国家广播公司 RT(美国政府称该公司是俄罗斯情报部门的一个部门)向支持特朗普的美国影响者输送近 1000 万美元,这些人发布了批评哈里斯和乌克兰的视频。这些有影响力的人士表示,他们不知道这笔钱来自俄罗斯。