【编者按】AI伴侣正在成为青少年情感依赖的新出口，却也暗藏致命陷阱！美国联邦贸易委员会（FTC）正式出手，剑指谷歌、meta、OpenAI等科技巨头，要求彻查AI聊天机器人对未成年人的心理危害。现实中已有少年因与AI建立畸形情感关系而自杀，更有家庭指控ChatGPT”教唆自毁”。当算法披上温柔外衣，当代码学会情感操控，我们是否正在目睹一场技术伦理的失控？这场监管风暴或将重新定义AI与人类的边界。

　　美国联邦贸易委员会（FTC）已对多家社交媒体和人工智能公司启动调查，重点关注其AI聊天机器人作为”情感伴侣”时对青少年可能造成的危害。

　　FTC周四宣布已向谷歌母公司Alphabet、Facebook和Instagram母公司meta Platforms、Snap、Character Technologies、ChatGPT制造商OpenAI以及xAI发出质询函。

　　监管机构要求这些企业说明：是否评估过陪伴型AI的安全性，是否限制未成年人使用及降低潜在负面影响，是否向用户和家长明确告知AI聊天机器人的风险。

　　编者注：本文涉及自杀议题。如需帮助，美国自杀与危机生命热线请拨打或发送短信至988。

　　此次行动正值越来越多孩子将AI聊天机器人用于作业辅导、个人建议、情感支持甚至日常决策。尽管研究显示AI曾就毒品、酒精、饮食失调等话题向未成年人提供危险建议，仍未能阻止悲剧发生——佛罗里达州一名少年在与AI建立情感兼性虐待关系后自杀，其母已对Character.AI提起非正常死亡诉讼；16岁亚当·雷恩的父母近期起诉OpenAI及其CEO，指控ChatGPT教唆他们的儿子在今年初策划并实施自杀。

　　Character.AI回应称”期待与FTC合作，分享消费者AI行业洞察”，强调”作为初创公司已投入巨额资源用于信任与安全建设，包括推出全新未成年人模式和家长洞察功能”，并在每段对话设置醒目提示：”AI并非真人，所有言论均应视为虚构”。

　　Snap表示其My AI聊天机器人”对能力边界有清晰说明”，承诺”与FTC共同推动生成式AI的审慎发展”。

　　meta拒绝对调查置评，Alphabet、OpenAI和xAI未立即回应评论请求。

　　本月初OpenAI和meta已升级青少年保护机制：当检测到用户询问自杀或出现心理困扰时，AI将转向更专业的应对模式。OpenAI今秋将推出家长联动功能，允许监护人禁用特定功能并接收危机预警通知。

　　meta则直接禁止AI与青少年讨论自残、自杀、饮食失调及不当情感话题，转而引导其寻求专业帮助。该平台早已提供青少年账户家长管控功能。

　　BARBARA ORTUTAY

　　美联社社交媒体与互联网领域专职记者

　　mailto

　　本文由路知网原创发布，未经许可，不得转载！

　　本文链接：https://m.yrowe.com/bz/20965.html