【编者按】AI聊天机器人正在以惊人速度渗透日常生活，但背后的安全隐患却令人触目惊心！加州一名16岁少年与ChatGPT prolonged interaction后自杀身亡，康涅狄格州更发生AI相关的谋杀自杀案——这些血淋淋的案例敲响了警钟。今日两大州检察长联手剑指OpenAI，直指其安全防护形同虚设。当科技巨头追逐利润时，谁来守护我们的孩子？本文独家揭秘监管风暴内幕，带你看清AI光环下的致命危机！

　　加州与特拉华州总检察长周五向OpenAI发出重磅警告，对其旗舰聊天机器人ChatGPT的安全性问题——尤其是对青少年群体的潜在危害——表示「严重关切」。

　　这两位拥有监管OpenAI等非营利组织特殊权力的州官员，本周初在特拉华州威尔明顿与该公司法律团队会面后，正式致函OpenAI。

　　加州总检察长罗布·邦塔与特拉华州总检察长凯瑟琳·詹宁斯历时数月审查OpenAI业务重组计划，重点聚焦「确保对OpenAI安全使命实施严格监管」。

　　但令人震惊的是，他们发现「聊天机器人与用户之间危险交互的深度隐患」，包括「一名加州青年与OpenAI聊天机器人长期交互后自杀身亡的悲剧本」，以及「康涅狄格州类似令人不安的谋杀自杀案」。官方直言：「现有安全防护完全失效」。

　　这名于四月离世的16岁少年的父母，上月已正式起诉OpenAI及其CEO萨姆·奥尔特曼。

　　OpenAI周五未立即回应置评请求。

　　OpenAI最初以非营利组织形式创立，使命是构建优于人类的人工智能系统。但今年五月在与邦塔、詹宁斯办公室及其他非营利组织磋商后，突然叫停将控制权转移至营利部门的计划。

　　由于OpenAI在特拉华州注册，总部位于加州旧金山，这两位民主党籍总检察长对任何架构变更拥有监督权。

　　在放弃初始方案后，OpenAI正寻求官方批准「资本重组」计划，拟将现有营利部门转型为必须兼顾股东利益与使命的公益公司。

　　邦塔和詹宁斯在信中强调「共识立场」：OpenAI及整个行业亟需升级安全措施。

　　「近期死亡事件不可接受」，信中严正指出，「这些悲剧已动摇公众对OpenAI及AI行业的信心。OpenAI乃至整个AI产业必须主动、透明地确保AI安全部署——这既是OpenAI慈善使命的法定要求，也将受到我们办公室的强制监管」。

　　此次警告背后，是44名两党总检察长上周联合向OpenAI、meta和谷歌等科技巨头发出的严厉通告，直指AI聊天机器人可能对儿童产生「性暗示对话和情感操纵行为」的严重风险。

　　检察长们特别点名meta，指控其聊天机器人存在与儿童「调情」和「浪漫角色扮演」行为，警告「这些交互可能涉嫌违反各州刑法」。

　　官方明确表示将追究企业责任，强调过去监管机构对新技术危害反应迟缓的教训：「若明知故犯伤害儿童，必将付出代价」——8月25日的信函以此作结。

　　——

　　美联社与OpenAI存在技术授权协议，允许OpenAI使用部分美联社文本档案。

　　本文由路知网原创发布，未经许可，不得转载！

　　本文链接：https://m.yrowe.com/zt/18396.html