鞭牛士报道，9月30日消息，据路透社报道，美国加州州长加文·纽瑟姆周日否决了一项备受争议的人工智能安全法案，因为科技行业提出反对意见，称该法案可能会将人工智能公司赶出该州并阻碍创新。
纽森表示，他已要求生成式人工智能领域的顶尖专家帮助加州制定可行的护栏，重点是开发基于实证和科学的轨迹分析。
他还命令州政府机构扩大对与人工智能使用相关的潜在灾难性事件风险的评估。
生成式人工智能可以根据开放式提示创建文本、照片和视频，这引发了人们的兴奋，但同时也引发了人们的担忧，即它可能会取代某些工作、颠覆选举、可能压倒人类并带来灾难性的影响。
该法案的起草人、民主党州参议员斯科特·维纳 (Scott Wiener) 表示，在人工智能发展变得难以驾驭或无法控制之前，立法对于保护公众是必要的。人工智能行业在加州发展迅速，一些领导人质疑，如果该法案成为法律，这些公司在该州的未来将会如何。
维纳周日表示，否决令加州的安全状况降低，意味着旨在创造极其强大技术的公司将不受任何约束。
他还补充道，业界的自愿承诺无法强制执行，而且很少能为公众带来好处。
纽森表示：我们不能等到重大灾难发生后才采取行动保护公众，但他补充说，他不同意我们必须接受一种没有基于人工智能系统和能力的实证轨迹分析的解决方案。
纽森表示，他将在下届会议期间与立法机构合作制定人工智能立法。目前，美国国会制定保障措施的立法陷入停滞，拜登政府正在推进人工智能监管提案。
纽瑟姆表示，仅针对加州的做法可能是合理的——特别是在国会没有采取联邦行动的情况下。
科技行业联盟进步商会 (Chamber of Progress) 对纽森的否决表示赞赏，并称加州科技经济一直在竞争和开放中蓬勃发展。
除其他事项外，该措施将要求对许多最先进的人工智能模型进行安全测试，这些模型的开发成本超过 1 亿美元，或需要一定数量的计算能力。在该州运营的人工智能软件开发人员还需要概述关闭人工智能模型的方法，这实际上是一个终止开关。
该法案将建立一个国家实体来监督所谓前沿模型的开发，这些模型的能力将超越现有最先进模型。
该法案遭到了各界的强烈反对。Alphabet 旗下的谷歌、微软支持的 OpenAI 和 Meta Platforms（它们都在开发生成式 AI 模型）都对该提案表示了担忧。
包括众议员南希·佩洛西在内的一些美国国会民主党人也对此表示反对。支持者包括特斯拉首席执行官埃隆·马斯克，他还经营着一家名为 xAI 的人工智能公司。亚马逊支持的 Anthropic 表示，该法案带来的好处可能大于成本，但它补充说，仍有一些方面似乎令人担忧或模棱两可。
纽森还签署了一项立法，要求该州评估生成式人工智能对加州关键基础设施构成的潜在威胁。
纽森表示，该州正在分析能源基础设施风险，并已召集电力行业供应商开会，并将在未来一年对水利基础设施供应商进行同样的风险评估，随后还将对通信行业进行评估。
|
