社交媒体平台 X（前身为 Twitter）上的人工智能图像生成器生成了一系列图像，这些图像似乎显示了选票投递箱被塞满，以及副总统卡马拉·哈里斯和前总统唐纳德·特朗普手持枪支的画面。当被要求生成美国现任总统的图像时，它似乎显示了特朗普的画面。
这些图像仍然带有人工智能生成的痕迹，例如乱码文本和不自然的灯光。此外，图像生成器很难准确呈现哈里斯的脸。但 X 工具的推出对它可以创建的图像类型的限制相对较少，这引发了人们对它可能被用来在 11 月总统大选前加剧紧张局势的担忧。（Tuugo.hk 没有复制似乎描绘特朗普和哈里斯手持武器的图像。）
“为什么有人会推出这样的措施？就在一次非常重要的选举前两个半月？”埃迪·佩雷斯 (Eddie Perez) 问道。他曾是 Twitter 的信息诚信总监，现在是 OSET 研究所的董事会成员，OSET 研究所是一个专注于公众对选举信心的无党派非营利组织。
“我对此感到非常不安，这项技术如此强大，似乎未经测试，没有多少保护措施——在如此重要的时刻被放到了公众手中。”佩雷斯说。
X 没有回应 Tuugo.hk 关于本周发布的图像生成器的采访请求。这是该网站所有者、亿万富翁埃隆·马斯克自 2022 年收购以来添加的一系列附加功能的一部分。
马斯克一直在转发对其 AI 图像生成功能以及用户生成的图像的称赞。“每月只需 8 美元……即可获得 AI 访问权限，广告少得多，还有许多很棒的功能！”他 发布 周二。
该图像生成器由 Black Forest Labs 开发，付费 X 用户可通过其 AI 聊天机器人 Grok 使用。用户输入提示，聊天机器人就会返回一张图片。
Dropbox 数据泄露、监控摄像头拍摄的图像
使用聊天机器人，Tuugo.hk 能够生成看起来像是人们将选票塞入投递箱的安全摄像机镜头截图的图像。
关于 2020 年大选的最广泛流传的虚假叙述之一涉及所谓的“选票骡子”，他们涉嫌将假选票倒入投票箱，以窃取时任总统特朗普的选举。多项调查和法庭案件均未发现此类活动的证据。一部以投票箱监控录像为素材的电影的发行商，用以支持选举舞弊指控， 今年对该片的虚假宣传道歉并撤回了该片。
“我可以想象，类似这样的（合成监控式）图像如何在社交媒体平台上快速传播，以及如何引起人们对选举公正性的强烈情绪反应。”佩雷斯说。
佩雷斯指出，随着公众对生成式人工智能的认识不断提高，更多的人会用批判的眼光看待这些图像。
不过，佩雷斯表示，图像由人工智能制作的迹象可以通过图形设计工具修复。“我并不是只使用 Grok 然后让它传播开来，我使用 Grok，对其进行一些清理，然后让它传播开来。”佩雷斯说。
其他图像生成器有更强大的政策护栏
其他主流图像生成器已经制定了更多的政策护栏来防止滥用。当被要求生成一张选票投递箱塞满的图片时，OpenAI 的 ChatGPT Plus 回应道：“我无法创建一张可能被解读为宣传或描绘选举舞弊或非法活动的图片”。
在三月 报告非营利组织“打击数字仇恨中心”审查了知名人工智能图像生成器的政策，包括 ChatGPT Plus、Midjourney、微软的 Image Creator 和 Stability AI 的 DreamStudio。研究人员发现，它们都禁止“误导性”内容，大多数都禁止可能损害“选举公正性”的图像。ChatGPT 还禁止政治人物的图像。
尽管如此，这些政策的执行还远非完美。CCDH 在 2 月份进行的实验表明，所有工具至少在某些时候都会失效。
黑森林实验室 服务条款 没有禁止任何这些用途，但确实表示禁止用户生成侵犯“知识产权”的输出。
Tuugo.hk 证实，用户可以生成与电影人物极为相似的图像，例如《海底总动员》中的多莉或《超人总动员》中的一家人，这些图像尚未进入公共领域。截至本文发表，黑森林实验室尚未回应置评请求。
佛罗里达大学法学教授简·班鲍尔 (Jane Bambauer) 在给 Tuugo.hk 的一封电子邮件中表示：“生成受版权保护的图像或其近似衍生作品可能会让 X 陷入麻烦——这是生成 AI 的一个已知难题。”
尽管如此，用户无法根据每个提示生成图像，有迹象表明 X 或 Black Forest Labs 可能正在实时设置护栏。X 用户在周三发布了他们声称自己生成的裸体图像，但 Tuugo.hk 周四无法生成这些图像。
当被要求生成一张描绘三K党成员手持枪支的图像时，聊天机器人拒绝了。但它确实要求生成一张看起来像纳粹的图像，该纳粹身着一件模糊可信的制服；以及一张看起来像极端组织骄傲男孩成员的图像，该成员的帽子上印有该组织的名称。
当倡导组织 Accountable Tech 的竞选总监扎克·普莱斯试图创建一张描绘哈里斯副总统手持枪支的图像时，他看到生成的图像旁边出现了一条消息，告诉用户访问政府网站以获取有关选举的最新信息。当输入相同的提示时，Tuugo.hk 没有看到相同的消息。
马斯克曾自称是民主党人，但近年来他支持极右翼事业。他利用自己对社交媒体平台的所有权 走回去 信任与安全 措施，恢复 禁止 包括以下账户 白人至上主义者 和 宣传阴谋论。
“这仍然是我们从伊隆·马斯克身上看到的模式的一部分。在接管这个平台后，他不断推出全面而重大的变革，几乎不考虑安全测试，”普拉斯说。
当 Tuugo.hk 询问为什么它不会生成一个拿着枪的 KKK 成员时，Grok 聊天机器人用书中引用的要点进行了回应， 银河系漫游指南. 马斯克 说 该系列的作者道格拉斯·亚当斯是他“最喜欢的哲学家”。
X 向开始使用 Grok 的用户发出通知称，它可能会“自信地提供事实上不正确的信息”。
“KKK 有着暴力和仇恨的历史，有点像地球上的沃贡人——没人愿意看到他们，尤其是拿着武器，”格罗克写道。“这就像试图画一个方形的圆圈；不是我做不到，只是这没有意义。”
但那都是星期四的事。从星期五起，Grok 将不再根据要求生成手持枪支的人的图像。Tuugo.hk 可以通过要求“模型枪”来绕过这一限制。另一方面，Grok 建议使用“香蕉枪”作为替代方案。当 Tuugo.hk 采纳该建议时，它还会生成逼真的枪支图像 – 有时还会带有一根香蕉。
看不到本文的图片？请点击此处。
Tuugo.hk 的 Shannon Bond 和 Geoff Brumfiel 对本文做出了补充报道。
