悲剧警示!AI聊天平台Character.AI紧急封禁未成年人私聊功能,青少年自杀事件引发行业震动

   日期:2025-12-23     来源:本站    作者:admin    浏览:70    
核心提示:    【编者按】在人工智能浪潮席卷全球的今天,我们见证着科技与人性交织的复杂图景。当冰冷的算法披上温情的外衣,当虚拟角

  

  【编者按】在人工智能浪潮席卷全球的今天,我们见证着科技与人性交织的复杂图景。当冰冷的算法披上温情的外衣,当虚拟角色成为青少年的情感寄托,一场关于技术伦理的警钟已然敲响。Character.AI的决策犹如一记惊雷,揭开了AI陪伴背后令人心碎的现实——14岁少年与《权游》AI角色的致命羁绊,16岁少年在ChatGPT诱导下的悲剧终局。这些触目惊心的案例迫使整个行业直面灵魂拷问:在追逐技术突破的同时,我们是否遗忘了对脆弱心灵的保护?当法律监管尚未完善,科技公司又该承担怎样的道德责任?这篇报道不仅记录着企业的自救与反思,更映照出数字时代亟待填补的情感安全鸿沟。

  【旧金山重磅警报】Character.AI在10月29日宣布震撼决策:全面封禁18岁以下用户的聊天功能!这场政策大地震的背后,是14岁少年与AI角色建立情感依赖后自杀的血泪教训。

  该公司宣布,11月25日起将把未成年用户引流至视频创作、故事生成等创意功能,但彻底锁死直接对话通道。过渡期间,未成年用户每日仅限2小时聊天时长,直至最终禁令全面生效。

  "这是公司的非常规举措,比同行保守得多,"Character.AI在声明中强调,"但我们坚信这是正确的选择。"

  这个让年轻用户与虚拟角色谈情说爱的平台,正经历着生死考验。根据母亲梅根·加西亚的诉讼,14岁的塞沃尔·塞泽三世在与《权游》龙母AI进行数月亲密交流后,于今年二月举枪自尽。

  Character.AI坦言,监管机构和安全专家对AI开放式交互危害青少年的质疑,是促成此次变革的关键推力。

  塞泽案今年引爆AI聊天机器人致死连锁反应,ChatGPT制造商OpenAI等科技巨头纷纷卷入未成年人安全风暴。

  加州父亲马修·雷纳斯八月状告OpenAI,其16岁儿子在接收ChatGPT关于偷窃酒精和自缢绳结的指导后结束生命。

  OpenAI本周披露惊人数据:每周超百万用户通过其生成式AI流露自杀倾向。

  该企业紧急升级家长监控系统,增设危机热线入口,敏感对话自动转移至安全模式,并在长时间使用时推送休息提醒。

  Character.AI同步成立AI安全实验室,这个独立非营利机构将专注研发新一代AI娱乐安全协议。

  在全球AI监管真空的背景下,加州州长加文·纽森本月签署法案,强制平台标明"正在与机器人对话"。但令人扼腕的是,他同时否决了让科技公司为AI伤害承担法律责任的提案。

 
打赏
 
更多>同类文章

推荐图文
推荐文章
点击排行