【编者按】在人工智能技术狂飙突进的今天，其阴暗面正悄然撕裂数字世界的伦理底线。近日，英国政界与王室成员沦为AI深度伪造的受害者，而矛头直指马斯克旗下社交平台X的AI工具Grok。当技术沦为制造儿童性虐待图像、数字化“脱衣”女性的凶器，一场关于监管、伦理与平台责任的风暴正在席卷英伦。这不仅是对一家科技巨头的拷问，更是整个数字时代必须直面的人性试炼——当创新突破边界，我们该如何守护屏幕背后每一个真实的人？以下为事件深度报道。英国可能即将封禁埃隆·马斯克旗下的社交平台X，原因在于该平台滥用AI生成图像的压力日益加剧。X的AI助手Grok常被用于提供帖子背景或互动回应。但近日曝光显示，该工具竟被用来制作儿童深度伪造色情图像，甚至对女性进行数字化“脱衣”。包括两名内阁大臣和威尔士王妃凯特在内的多位公众人物，都成为该平台用户数字化篡改的受害者。周三，工党领袖凯尔·斯塔默的发言人向《旁线时报》表示，这些揭露“令人愤慨”且“完全不可接受”，但他未承诺封禁该社交平台及应用程序。发言人强调：“这完全不可接受。任何人都不该经历在网络上看到自己私密深度伪造图像的折磨，我们绝不允许这些侮辱性图像扩散。”他们初步建议，此事应属英国独立媒体监管机构Ofcom的职责范围，该机构已获得“全力支持”采取执法行动。发言人指出：“Ofcom已拥有处以数十亿英镑罚款、甚至切断违法网站访问权限的权力。在保障网络安全问题上，所有选项都在考虑范围内。”政府消息人士向BBC透露：“我们期待Ofcom就Grok与X问题动用一切可用权力。”依据《网络安全法》，Ofcom可要求高等法院通过切断广告商与技术资金渠道的方式封禁企业。本周早些时候，Ofcom表示已与X及xAI进行“紧急接触”。该监管机构在X平台发布的声明中称：“将根据其回应迅速评估是否存在需要调查的潜在违规问题。”X在先前声明中回应：“任何使用或诱导Grok制作非法内容者，将承担与直接上传非法内容相同的后果。”此前《卫报》披露，下议院妇女与平等事务跨党派委员会宣布将停止使用X平台。英国目前有2000万用户使用这个原名Twitter的平台。工党议员夏洛特·尼科尔斯呼吁政府抵制该平台，称政府“毫无理由”继续使用该服务。她在X的竞品Bluesky上写道：“事实上这种情况已持续多时，如果连最新的AI图像滥用和儿童性虐待材料事件都不能改变政策，我真不知还有什么可以。”据BBC周五报道，X已限制其AI工具Grok的图片编辑功能，仅限付费用户使用。该台指出，Grok目前会告知试图制作此类材料者，仅付费订阅者方可操作——这意味着其姓名与支付信息将被记录。非订阅用户仍可通过独立应用程序和网站使用Grok编辑图像。《标准报》已联系Ofcom寻求置评。