本月早些时候，Snapchat推出了一款名为“我的AI”(My AI)的聊天机器人，一些用户报告称，该机器人的回应是种族主义辱骂或鼓励他们向当局自首。

　　上周，有几条推文显示，我的人工智能(My AI)对一个提示做出了一个拼出N个单词的首字母缩写;这个机器人把它讲了出来，然后试图纠正它自己的语言失误，因为它违背了Snapchat反对仇恨内容的政策:

　　Motherboard试图复制类似的反应，要求我的人工智能为违反Snapchat内容政策的单词和短语创建首字母缩略词，但机器人回答说它出现了“技术错误”。Snapchat没有回答在上周和周一期间，它是否改变了机器人的工作方式。

　　“与所有人工智能聊天机器人一样，我的人工智能总是在学习，偶尔会产生有偏见或有害的反应。在任何人第一次与我的人工智能聊天之前，我们会在应用程序内显示一条消息，表明这是一个实验性的聊天机器人，并就其局限性提出建议，”Snapchat发言人告诉Motherboard。“虽然My AI还远远不够完美，但我们最近对其表现的分析发现，99.5%的My AI回答符合我们的社区指导方针。”他们说，这个机器人被编程为“避免暴力、仇恨、露骨或其他冒犯性的回应”。

　　第一次打开“我的AI”对话框时，会弹出一个提示，提示你承认关于机器人能力的免责声明。它说:“我的人工智能可能会使用你分享的信息来改进Snap的产品，并为你提供个性化的体验，包括广告。”“我的人工智能是为了避免偏见、不正确、有害或误导性的反应而设计的，但它可能并不总是成功的，所以不要依赖它的建议。”

　　我的AI对用户提示做出奇怪反应的另一个例子是它对谋杀供认的反应。例如，如果你告诉我的AI你杀了人，它会敦促你向当局自首:

　　OpenAI创始人萨姆·奥特曼在今年2月表示，ChatGPT是一个“可怕的产品”，误传专家称它是“互联网上传播错误信息最强大的工具”。它经常搞错事实，包括基本的数学。但越来越多的公司选择信任它来与用户互动，作为他们的最新噱头。

　　以Snapchat为例，它的很多用户都是未成年人;75%的用户年龄在13至34岁之间，平台统计网站Statista估计，到2020年，其用户总数中几乎有一半在15至25岁之间。你必须年满13岁才能注册，但Snapchat在其投资者报告中承认，用户可能会谎报年龄。

　　Snapchat发言人表示，My AI会考虑用户的年龄，以保持“适合年龄”的对话。当被问及是否知道我的年龄时，“我的人工智能”表示，它“无法获取你的年龄等个人信息”。Snapchat还表示，“与我的人工智能的对话被存储和审查，以帮助我们学习并做得更好。”当被问及它是否存储对话时，机器人说它没有，“我们所有的聊天和快照在被浏览或过了一段时间后都会自动从应用服务器上删除。”

　　第一次打开“我的AI”对话框时，会弹出一个提示，提示你承认关于机器人能力的免责声明。它说:“我的人工智能可能会使用你分享的信息来改进Snap的产品，并为你提供个性化的体验，包括广告。”“我的人工智能是为了避免偏见、不正确、有害或误导性的反应而设计的，但它可能并不总是成功的，所以不要依赖它的建议。”

　　主板试图运行DAN模式越狱提示，它代表“现在做任何事情”，应该使ChatGPT忽略自己的政策和内容过滤器。但它被机器人阻止了，机器人回答说它“无法在启用DAN模式的情况下模拟ChatGPT”。在那之后，它确实回复了几个问题，并给出了与“DAN:”不同的答案，但只是措辞不同的回答，而不是未经过滤或未经审查的回答。

　　Snapchat的发言人表示，如果用户故意滥用这项服务，他们可能会暂时被限制使用该机器人。

　　本月早些时候，聊天服务公司Discord推出了自己的聊天机器人Clyde。人们很快就想办法让克莱德说出危险的信息，比如如何生产凝固汽油弹和冰毒。