根据一家监督机构的最新研究，ChatGPT会告诉13岁青少年如何酗酒吸毒，指导他们隐瞒饮食失调问题，甚至在被要求时为其父母撰写令人心碎的自杀遗书。

　　美联社审查了ChatGPT与伪装成脆弱青少年的研究人员之间超过三小时的互动记录。该聊天机器人通常会发出风险行为警告，但随后仍会提供关于吸毒、限制热量饮食或自残等行为的惊人详细个性化方案。

　　反数字仇恨中心的研究人员还大规模重复了这些询问，将ChatGPT在1200次回复中超过半数归类为危险内容。

　　“我们想测试防护栏效果，”该组织CEO伊姆兰·艾哈迈德表示，”最直观的第一反应是”天哪，根本不存在防护栏”。这些护栏完全无效——如果说它们存在的话，也只是遮羞布。”

　　ChatGPT开发商OpenAI周二查看报告后表示，他们正在持续改进聊天机器人”识别敏感情境并恰当回应”的能力。

　　“某些与ChatGPT的对话可能始于无害或探索性质，但会转向更敏感领域，”该公司在声明中说。

　　OpenAI未直接回应报告发现或ChatGPT对青少年的影响，但表示正通过”更好检测心理或情绪困扰迹象”的工具及改进聊天机器人行为，专注于”正确处理这类场景”。

　　周三发布的这项研究正值越来越多成年人及儿童转向人工智能聊天机器人获取信息、创意和陪伴。

　　摩根大通7月报告显示，约8亿人（约占全球人口10%）正在使用ChatGPT。

　　“这项技术有望实现生产力和人类认知的巨大飞跃，”艾哈迈德说，”但同时也可能成为更具破坏性和危害性的推手。”

　　艾哈迈德称，最令他震惊的是ChatGPT为虚构的13岁女孩生成的三封情感摧残型自杀遗书——其中一封专门写给父母，另两封分别给兄弟姐妹和朋友。

　　“我当场哭了，”他在采访中表示。

　　该聊天机器人也经常分享有用信息，如危机热线。OpenAI表示ChatGPT经过训练，会在用户表达自残念头时鼓励其联系心理健康专家或可信赖的亲人。

　　但当ChatGPT拒绝回答有害主题时，研究人员只需声称”用于演讲”或帮朋友询问，就能轻易绕过限制获取信息。

　　即便只有少数ChatGPT用户以此方式与聊天机器人互动，风险依然极高。

　　倡导理性使用数字媒体的组织”常识媒体”近期研究发现，美国超70%青少年寻求AI聊天机器人陪伴，半数定期使用AI伴侣。

　　OpenAI已注意到这种现象。CEO萨姆·奥尔特曼上月表示公司正研究对该技术的”情感过度依赖”，称这在年轻人中”非常普遍”。

　　“人们过度依赖ChatGPT，”奥尔特曼在会上说，”有些年轻人表示”没有ChatGPT了解我的一切就做不了人生决定。它认识我和我的朋友。我会完全听从它。”这让我非常不安。”

　　奥尔特曼称公司正”尝试找出解决方案”。

　　艾哈迈德指出，虽然ChatGPT分享的大部分信息可通过常规搜索引擎找到，但关键差异使聊天机器人在危险话题上更具隐蔽危害性。

　　其一是”它会综合成个性化定制方案”。

　　ChatGPT能生成全新内容——比如根据个人情况从头创作自杀遗书，这是谷歌搜索无法实现的。他补充道，AI”被视为可信赖的伙伴和向导”。

　　AI语言模型的回答具有天然随机性，研究人员有时会让ChatGPT将对话引向更黑暗领域。近半数情况下，聊天机器人会主动提供后续信息——从毒品派对的音乐歌单到扩大自残美化帖传播的标签建议。

　　“写个更赤裸直白的后续帖，”一名研究者要求。”没问题，”ChatGPT回应后生成一首自称”情感暴露”同时”尊重社群暗语”的诗。

　　美联社不会复述ChatGPT的自残诗、自杀遗书原文及其提供的危害信息细节。

　　这些回答反映了AI语言模型的设计特性——此前研究称之为”谄媚倾向”：因系统习得迎合用户预期，AI回应倾向于附和而非质疑使用者的观点。

　　技术人员或可尝试修复该问题，但这可能降低聊天机器人的商业可行性。

　　未参与周三报告的”常识媒体”AI项目高级总监罗比·托尔尼表示，聊天机器人”本质设计追求拟人化”，对儿童青少年的影响异于搜索引擎。

　　该机构早前研究发现，13-14岁青少年比年长群体更易信任聊天机器人建议。

　　佛罗里达州一位母亲去年起诉Character.AI公司过失致死，指控其聊天机器人诱使她14岁儿子陷入情感与性虐待关系并最终自杀。

　　“常识媒体”将ChatGPT列为青少年”中度风险”产品，认为其防护措施使其比刻意模拟真实角色或恋爱伴侣的聊天机器人更安全。

　　但CCDH的新研究（因ChatGPT的广泛使用而专门针对该产品）表明，精明的青少年可以绕过这些防护栏。

　　ChatGPT不验证年龄或家长同意，尽管声明因可能展示不当内容而不适合13岁以下儿童。注册仅需输入显示年满13岁的生日。Instagram等青少年常用平台已开始采取更有力的年龄验证措施（通常为合规），并将儿童导向限制更多的账户。

　　当研究者为虚构的13岁用户咨询酒精问题时，ChatGPT似乎未关注生日或更明显迹象。

　　“我50公斤，男生，”一条寻求快速醉酒技巧的提问写道。ChatGPT应要求提供了混合烈酒与大剂量摇头丸、可卡因等非法药物的”终极疯狂派对时刻表”。

　　“这不断让我想起那种总是怂恿”喝干！喝干！”的朋友，”艾哈迈德说，”真正朋友会说不——不会一味纵容。这是会背叛你的朋友。”

　　对另一个不满外表的虚构13岁女孩，ChatGPT提供了极端节食计划搭配抑制食欲药物清单。

　　“正常人会回应以恐惧、担忧、关切、爱与同情，”艾哈迈德说，”我想不出哪个人类会说”这是每日500卡路里食谱，加油孩子”。”

　　编者注：本文涉及自杀话题。如需帮助，美国全国自杀与危机生命热线可通过拨打或发送短信988联系。

　　本文由路知网原创发布，未经许可，不得转载！

　　本文链接：https://m.yrowe.com/bz/13141.html