加利福尼亚州州长加文·纽森(Gavin Newsom)周日否决了一项具有里程碑意义的法案，该法案旨在为大型人工智能模型建立全国首创的安全措施。

　　这一决定对试图控制这个本土行业的努力是一个重大打击，这个行业正在迅速发展，几乎没有监管。支持者表示，该法案将在全国范围内建立一些关于大规模人工智能模型的首批法规，并为全国范围内的人工智能安全法规铺平道路。

　　本月早些时候，这位民主党州长在软件巨头Salesforce主办的Dreamforce年度会议上告诉听众，面对联邦政府的不作为，加州必须在监管人工智能方面发挥领导作用，但该提案“可能会对该行业产生寒蝉效应”。

　　纽森说，这项提案遭到了初创公司、科技巨头和几名民主党众议员的强烈反对，它可能会因为设定了严格的要求而损害本土产业。

　　纽森在一份声明中说:“虽然出于善意，但SB 1047没有考虑到人工智能系统是否部署在高风险环境中，是否涉及关键决策或敏感数据的使用。”相反，该法案甚至对最基本的功能也采用了严格的标准——只要是大型系统部署它。我不认为这是保护公众免受这项技术带来的真正威胁的最佳方法。”

　　纽森周日宣布，该州将与包括人工智能先驱李飞飞在内的几位行业专家合作，为强大的人工智能模型开发护栏。李反对人工智能安全提案。

　　这项旨在减少人工智能带来的潜在风险的措施，将要求公司测试他们的模型，并公开披露他们的安全协议，以防止模型被操纵，例如摧毁国家电网或帮助制造化学武器。专家表示，随着该行业继续快速发展，这些情况在未来可能会出现。它还将为工人提供举报人保护。

　　该法案是今年立法机关通过的一系列法案之一，旨在监管人工智能、打击深度造假和保护工人。州议员表示，加州今年必须采取行动，理由是他们从本有机会控制社交媒体公司的失败中吸取了惨痛的教训。

　　包括埃隆·马斯克(Elon Musk)和Anthropic在内的该措施的支持者表示，该提案可能会为大规模人工智能模型注入一定程度的透明度和问责制，因为开发人员和专家表示，他们仍然不完全了解人工智能模型的行为方式和原因。

　　该法案针对的是需要超过1亿美元建造的系统。目前还没有人工智能模型达到这一门槛，但一些专家表示，这种情况可能会在明年发生变化。

　　前OpenAI研究员丹尼尔·科科塔伊洛(Daniel Kokotajlo)表示:“这是因为该行业的投资规模大幅扩大。”科科塔伊洛今年4月辞职，原因是他认为该公司无视人工智能风险。“让任何一家私人公司毫无责任地控制这么大的权力，也是非常危险的。”

　　在监管人工智能以限制风险方面，美国已经落后于欧洲。加州的提案不像欧洲的规定那么全面，但支持者表示，这将是为快速发展的技术设置护栏的良好开端，这种技术正在引发人们对失业、错误信息、侵犯隐私和自动化偏见的担忧。

　　去年，许多领先的人工智能公司自愿同意遵守白宫制定的保障措施，例如测试和分享有关其模型的信息。加州法案的支持者表示，该法案将要求人工智能开发商遵守与这些承诺类似的要求。

　　但包括前美国众议院议长南希·佩洛西在内的批评人士认为，该法案将“扼杀加州科技”，扼杀创新。他们表示，这将阻碍人工智能开发者投资大型模型或共享开源软件。

　　纽森否决该法案的决定标志着大型科技公司和人工智能开发商在加州的又一次胜利，其中许多人在过去一年里与加州商会(California Chamber of Commerce)一起游说，以影响州长和立法者推进人工智能法规。

　　另外两项全面的人工智能提案也面临着科技行业和其他行业越来越大的反对，上月在立法截止日期之前夭折。这些法案将要求人工智能开发者为人工智能生成的内容贴上标签，并禁止对用于做出就业决定的人工智能工具进行歧视。