OpenAI 机器人领导者因对五角大楼人工智能交易的担忧而辞职

OpenAI 机器人团队的一名高级成员已辞职,理由是对该公司如何推进最近宣布的与美国国防部的合作伙伴关系感到担忧。

凯特琳·卡利诺夫斯基(Caitlin Kalinowski)曾担任专注于机器人和硬件的技术人员,她在社交媒体上发帖称,在该公司透露计划将其人工智能系统用于安全的国防部计算系统后,她已“原则”辞职。

该协议是美国政府更广泛推动将先进人工智能工具纳入国家安全工作的一部分,这一趋势引发了整个科技行业关于监督和可接受用途的争论。

卡利诺夫斯基在公开帖子中解释了她的决定,她写道:“我从 OpenAI 辞职。我非常关心机器人团队以及我们共同打造的工作。这不是一个容易的决定。”

她表示,在 OpenAI 宣布与五角大楼达成协议之前,围绕某些人工智能用途的政策护栏尚未得到充分定义。 “人工智能在国家安全中发挥着重要作用,”卡利诺夫斯基写道。 “但是,在没有司法监督的情况下对美国人进行监视,以及在没有人类授权的情况下进行致命的自治,这些都是值得比他们得到更多考虑的路线。”

卡利诺夫斯基还强调,她的担忧更多的是流程,而不是公司内部的具体高管,她“对 Sam 和团队深表敬意,我为我们共同打造的东西感到自豪”,她指的是 OpenAI 首席执行官 Sam Altman。

OpenAI 的一位发言人告诉 Tuugo.hk,该公司相信与五角大楼的协议“为负责任的国家安全使用人工智能创造了一条可行的道路,同时明确了我们的红线:没有国内监视,没有自主武器。”

声明还表示,公司认识到“人们对这些问题有强烈的看法,我们将继续与世界各地的员工、政府、民间社会和社区进行讨论。”

卡利诺夫斯基辞职之际,领先的人工智能开发商之间为美国政府提供技术的竞争加剧。最近几周,随着与竞争对手 Anthropic 因其模型用于军事用途的紧张关系加剧,联邦机构已转向 OpenAI 和 Google 寻求人工智能系统。

Anthropic 的首席执行官公开反对允许该公司的软件用于国内大规模监控或自主武器等应用,这一立场导致了与国防部长皮特·赫格斯 (Pete Hegseth) 等国防部官员的冲突,后者表示国防部需要灵活地在所有“合法”行动中部署商业人工智能工具。

在 OpenAI 中,Kalinowski 的职责主要是随着公司规模的扩大而建立机器人组织。她在 LinkedIn 个人资料中写道,这包括招聘员工以支持公司向与物理基础设施和机械相关的人工智能领域扩张。

卡利诺夫斯基表示她计划继续在同一领域工作。 “我花了一点时间,但我仍然非常专注于构建负责任的物理人工智能,”她写道。