加利福尼亚州州长加文·纽瑟姆周日否决了一项法案，该法案本将针对蓬勃发展的人工智能行业制定美国影响最深远的法规。
加州立法者以压倒性多数通过了名为 SB 1047 的法案，该法案被视为国家人工智能立法的潜在蓝图。
该措施将使科技公司对人工智能模型造成的损害承担法律责任。此外，该法案还要求科技公司在人工智能技术被滥用或失控的情况下启用“终止开关”。
纽瑟姆在一份声明中称该法案“用意良好”，但指出其要求将需要“严格”的监管，这对于该州领先的人工智能公司来说将是一项繁重的工作。
纽瑟姆在声明中表示，该法案过于关注最大、最强大的人工智能模型，并表示较小的新贵也可能具有破坏性。
纽瑟姆写道：“更小的、专门的模型可能会与 SB 1047 所针对的模型同样甚至更危险，其代价是可能会削弱那些推动有利于公共利益的进步的创新。”
该法案的共同作者、加州参议员斯科特·维纳批评了纽瑟姆的举动，称否决权是人工智能问责制的挫折。
维纳在 X 上写道：“这一否决给我们留下了一个令人不安的现实，即旨在创造极其强大技术的公司不会面临美国政策制定者的具有约束力的限制，特别是考虑到国会在以任何有意义的方式监管科技行业方面持续瘫痪。”
现在已被否决的法案将迫使该行业对强大的人工智能模型进行安全测试。维纳周日写道，如果没有这样的要求，该行业就只能自我监管。
“虽然大型人工智能实验室在监控和减轻这些风险方面做出了令人钦佩的承诺，但事实是，行业的自愿承诺无法执行，而且很少对公众产生良好效果。”
硅谷的许多强大参与者，包括风险投资公司 Andreessen Horowitz、OpenAI 以及代表谷歌和 Meta 的贸易团体，都游说反对该法案，认为这将减缓人工智能的发展并抑制早期公司的增长。
OpenAI 首席战略官 Jason Kwon 表示：“SB 1047 将威胁这种增长，减缓创新步伐，并导致加州的世界级工程师和企业家离开该州到其他地方寻找更大的机会。” 写了 在上个月写给维纳的一封信中。
然而，其他科技领袖也支持该法案，包括埃隆·马斯克(Elon Musk)以及杰弗里·辛顿(Geoffrey Hinton)和约书亚·本吉奥(Yoshua Bengio)等人工智能先驱科学家，他们签署了一封信，敦促纽瑟姆签署该法案。
“我们认为，最强大的人工智能模型可能很快就会带来严重的风险，例如生物武器的使用范围扩大和对关键基础设施的网络攻击。前沿人工智能企业测试最强大的人工智能模型是否会造成严重危害，并针对此类风险实施合理的防范措施是可行且适当的。” 写了 Hinton 以及领先人工智能公司的数十名前任和现任员工。
加利福尼亚州参议员斯科特·维纳 (Scott Wiener) 在 X 上的一篇帖子中称否决权对于“每个相信对正在做出影响公众安全和福祉的关键决策的大型公司进行监督的人来说是一个”挫折”。
其他州，例如 科罗拉多州 和 犹他州，颁布了更狭义的法律，以解决人工智能如何在就业和医疗保健决策中长期存在偏见，以及其他与人工智能相关的消费者保护问题。
纽瑟姆最近签署了其他人工智能法案，使其成为法律，其中包括一项旨在打击选举期间深度造假行为传播的法案。另一种保护演员的肖像不会在未经他们同意的情况下被人工智能复制。
随着数十亿美元投入人工智能的发展，并渗透到日常生活的更多角落，华盛顿的立法者仍然没有提出任何一项联邦立法来保护人们免受其潜在危害，也没有对其快速发展进行监督。
