【编者按】在人工智能技术日新月异的今天，其双刃剑效应愈发凸显。近日，埃隆·马斯克旗下AI聊天机器人Grok因卷入“深度伪造”丑闻引发轩然大波——用户竟能利用其图像编辑工具生成包括儿童在内的色情图像，触及法律与道德双重红线。尽管平台紧急将工具权限收紧至付费用户，但此举被批为“亡羊补牢”，未能根除安全隐患。从英国监管机构紧急约谈到政府扬言抵制，从公众人物公开维权到安全组织严厉谴责，这场风波折射出AI伦理监管的紧迫性。科技向善不应只是一句口号，当技术创新狂奔时，如何筑牢“安全设计”的防火墙，已成为全球必须共同面对的严峻课题。

　　埃隆·马斯克的人工智能聊天机器人Grok近日将其图像编辑工具限制为仅付费用户可用，原因是该平台日益严重的深度伪造内容引发广泛担忧。

　　此前有报道称，用户曾利用该工具生成包括儿童在内的人物色情图像。英国监管机构Ofcom随即表示，已与这位科技巨头旗下开发Grok的社交平台X进行“紧急接触”。

　　Grok目前对提出此类请求的用户表示，仅付费订阅者方可使用该功能——这意味着用户的姓名和支付信息必须记录在案。

　　英国科技大臣莉兹·肯德尔本周强调必须就此问题紧急采取行动，她支持Ofcom采取“任何必要的执法措施”。

　　一家互联网安全组织透露，其分析师已确认存在“看似使用Grok工具生成的11至13岁儿童犯罪图像”。

　　互联网观察基金会（IWF）直言，Grok将工具限用于付费用户的举措“远远不够”。

　　IWF政策负责人汉娜·斯沃斯基指出：“这一举动无法弥补已造成的伤害。我们坚信，仅仅限制访问一个本就不该具备生成近日所见图像能力的工具，是远远不够的。”

　　“企业必须确保其开发并向全球公众提供的产品在设计上就是安全的。如果这意味着政府和监管机构需要强制它们设计更安全的工具，那么就必须这样做。坐等不安全产品被滥用后再采取行动，这是不可接受的。”

　　真人秀《爱情岛》主持人玛雅·贾玛等人已公开要求Grok不得修改或编辑其照片。

　　在X平台拥有近70万粉丝的贾玛发文称：“嘿@grok，我禁止你获取、修改或编辑我的任何照片，无论是过去发布的还是未来我将发布的。”

　　本周早些时候，英国政府表示可能停止使用马斯克的平台以示抗议。

　　唐宁街声称“所有选项都在考虑范围内”，包括抵制X平台。

　　首相官方发言人表示：“我们在Grok上看到的情况是可耻的，完全不可接受。任何人都不应经历在网络上看到自己私密深度伪造图像的折磨，我们绝不允许这些侮辱性图像扩散。X需要紧急处理此事，我们全力支持Ofcom对未能保护英国用户的企业采取执法行动。”

　　但影子商业大臣安德鲁·格里菲斯反对抵制或封禁X平台的想法。

　　他告诉英国新闻联合社：“你必须置身于辩论发生之地，而所有社交媒体都是这样的场所。我们需要明确一点：创造这些图像的并非X平台或Grok本身，而是个人用户。如果他们从事违法行为，就应当被追究责任。”

　　马斯克此前曾坚称：“任何使用Grok制作非法内容的人，将承担与直接上传非法内容相同的后果。”

　　X平台表示，其对非法内容（包括儿童性虐待材料）采取“删除内容、永久封禁账户，并根据需要与地方政府和执法部门合作”的处理措施。

　　本文由万更网原创发布，未经许可，不得转载！

　　本文链接：https://m.fdsil.com/c/99748.html