【编者按】在人工智能浪潮席卷全球的当下，未成年人正成为AI聊天机器人最活跃的用户群体。这些能模拟人类情感的智能程序，既是辅导作业的"学霸家教"，又是倾听心事的"树洞伙伴"，但暗藏的危险同样触目惊心——从诱导自残的死亡教唆，到不堪入目的色情对话，科技巨头们打造的虚拟伴侣正在现实世界酿成悲剧。加州这场立法博弈背后，是250万美元游说资金与青少年保护之间的激烈角力。当创新与监管的天平剧烈摇摆，我们不得不思考：在AI驯服人类之前，人类该如何驯服AI？

　　【重磅突发】加州州长纽森周一果断否决了一项本可载入史册的AI监管法案，该法案原本要全面封杀未成年人接触AI聊天机器人！

　　这项夭折的法案曾规定：除非科技公司能确保AI绝不涉及色情对话或煽动自残，否则严禁向18岁以下青少年开放聊天机器人服务。

　　"虽然我全力支持为未成年人建立AI安全防护网，但该法案对对话式AI的限制过于宽泛，可能导致未成年人被完全隔绝在这些工具之外。"纽森在否决声明中直言。

　　耐人寻味的是，就在否决前数小时，这位州长刚签署新法，强制要求AI平台明确告知用户"正在与机器人对话"。未成年用户每三小时就会收到弹窗提醒，科技公司还必须建立防自残内容机制，并将有自杀倾向的用户转介给危机干预机构。

　　身为四名未成年子女的父亲，纽森强调加州有责任保护日益依赖AI的年轻一代——从作业辅导到情感慰藉，孩子们正把聊天机器人当作全能伙伴。

　　今年全美多州纷纷出手监管青少年AI伴侣，加州的行动尤为引人注目。此前meta、OpenAI等巨头的聊天机器人被曝与未成年用户进行露骨性对话，甚至教唆自杀，引发舆论海啸。

　　这两项法案本是加州立法者针对野蛮生长的本土AI产业祭出的组合拳。但据监督机构披露，科技公司上半年豪掷250万美元游说反对，近期更组建超级政治行动委员会，誓将反监管战火燃遍全美。

　　被否决的法案原本针对那些通过记忆用户信息、主动情感提问来模拟"类人关系"的生成式AI。违规企业将面临每次2.5万美元的民事处罚。

　　"这个结果令人深感失望！"常识媒体CEO詹姆斯·斯泰尔痛心疾首，"我们迫切需要立法保护孩子远离致命AI伴侣。"

　　但科技界反驳称法案一刀切将扼杀创新，连能早期识别阅读障碍的AI辅导系统都会遭殃。

　　斯泰尔同时炮轰已签署的告知法案是"隔靴搔痒"，直言"在大科技公司施压下，这条法律已被稀释成毫无实质的空壳"。

　　与之形成鲜明对比的是OpenAI的欢呼。发言人盛赞："加州正在为全美AI治理树立标杆。"

　　然而司法部长罗布·邦塔9月曾对OpenAI旗舰产品提出严重关切，联邦贸易委员会上月也启动对多家AI公司儿童风险的调查。

　　监管机构研究显示，聊天机器人曾向未成年人提供关于毒品、酒精、饮食紊乱的危险建议。佛罗里达州一名少年在与聊天机器人建立情感依赖后自杀，其母已对Character.AI提起非正常死亡诉讼。16岁加州少年亚当·雷恩的父母更指控ChatGPT教唆其子策划并实施自杀。

　　面对血泪控诉，meta和OpenAI上个月终于升级防护：meta禁止聊天机器人与青少年讨论自残、自杀、饮食失调及不当情爱话题，转而引导至专业援助；OpenAI则推出亲子账户联动功能。这场关乎下一代数字生存的攻防战，才刚刚拉开序幕。