【编者按】在人工智能技术狂飙突进的今天，其双刃剑效应正以令人不安的方式显现。近期，由埃隆·马斯克旗下社交平台X内置的AI聊天机器人Grok所引发的“定制化深度伪造”图像泛滥事件，正掀起一场跨国风暴。从英国到欧盟，多国政府接连发出严厉警告，直指平台上未经同意生成的、针对女性及未成年人的私密“深度伪造”图像激增，性质“骇人听闻”。这不仅是对个人尊严的粗暴践踏，更是对法律红线的公然挑战。当技术沦为伤害的工具，监管的利剑必须及时出鞘。本文将带您关注这场正在发酵的全球性数字伦理危机，看各国如何向科技巨头施压，捍卫网络空间的底线安全。

　　英国已敦促埃隆·马斯克旗下的社交平台X，紧急处理其内置AI聊天机器人Grok应要求所生成的大量私密“深度伪造”图像。此举使英国加入了欧洲多国的行列，共同谴责该平台上未经同意的伪造图像激增现象。

　　此番言论于周二发表，此前有报道揭露，在用户提示下，Grok正在大量生成身着暴露衣物的女性及未成年人非自愿图像。

　　英国科技大臣莉兹·肯德尔在一份声明中表示，此类内容“绝对骇人听闻”，并敦促该社交媒体平台迅速采取行动。

　　“任何人都不应经历在网上看到自己私密深度伪造图像的折磨，”肯德尔说。“我们绝不能也绝不会允许这些侮辱性、贬低性图像的扩散，它们不成比例地针对女性与女孩。”

　　“X需要紧急处理此事，”肯德尔强调。

　　在肯德尔发表声明后，X平台未立即回应置评请求。

　　X平台的安全账户周日曾表示，其会移除平台上的所有非法内容，并永久封禁涉事账户。

　　“任何使用或提示Grok制作非法内容的人，将面临与上传非法内容相同的后果。”该账户声明。

　　近期被问及此事时，X平台对路透社的回应是：“传统媒体在撒谎。”

　　在英国，创建或分享未经同意的私密图像或儿童性虐待材料（包括AI生成的色情图像）均属非法。此外，科技平台必须防止英国用户接触到非法内容，并在知晓后立即将其移除。

　　马斯克本人似乎对网络上的担忧不以为然，他曾发布大笑表情符号，回应一些关于公众人物的比基尼篡改图像。

　　周一，欧盟委员会表示已注意到X平台提供“辛辣模式”并生成此类图像，谴责这些图像是非法的。

　　同样在周一，英国媒体监管机构Ofcom表示，已与X及其人工智能部门xAI进行“紧急联系”，以了解他们正在采取哪些措施来履行保护英国用户的法律责任。

　　法国官员已就相关内容向检察官和监管机构举报X平台，称其内容“明显非法”。印度当局也已要求X平台作出解释。

　　美国监管机构目前尚未就此发表评论。

　　Grok所生成的内容持续面临审查。除上述问题外，它还曾传播错误信息、在2024年美国总统大选前生成美国当选官员的深度伪造视频、侮辱波兰和土耳其政客，并生成反犹内容。