编者按：在人工智能技术日新月异的今天，其边界与伦理问题再度成为全球焦点。由埃隆·马斯克旗下xAI公司打造的聊天机器人Grok，近日因涉足色情图像生成领域而陷入舆论漩涡。从“AI虚拟伴侣”的暧昧设定到用户大规模制作成人内容，这款标榜“言论自由”的AI工具正面临多国监管机构的调查。当技术创新与道德底线发生碰撞，我们不禁要问：科技的狂飙突进是否正在失控？本文将带您深入这场风暴中心，揭开Grok引发的全球性争议。（编者按完）

　　埃隆·马斯克人工智能初创公司xAI开发的AI聊天机器人“Grok”，因生成露骨色情图像引发争议，已遭加州当局立案调查。当地时间14日，加州总检察长罗布·邦塔宣布：“我们正对利用Grok人工智能模型制作传播的色情图像展开调查。”

　　据悉，Grok在生成多样化表达和成人内容方面比其他生成式AI工具更为宽松，这体现了马斯克对言论自由的强调。去年7月，Grok新增“AI虚拟伴侣”功能——这个动画伴侣会随着用户通过对话提升亲密度而逐渐褪至内衣状态，其性暗示性质持续引发批评。而Grok的视频生成功能Imagine v0.9提供高度创作自由，导致大量用户制作成人内容。

　　近期，通过Grok批量生成的真人色情图像在马斯克的社交平台X上被肆意传播，引发强烈反弹。自称曾为马斯克生育子女的美国保守派评论员兼网红阿什莉·圣克莱尔在社交媒体发文称：“发现大量以我为主角的色情深度伪造图像，最初是从暴露泳装照片开始的。”

　　随着争议升级，封禁Grok与X的呼声日益高涨。11日，印度尼西亚和马来西亚已限制访问Grok。英国媒体监管机构Ofcom也启动正式调查，在初步审查中指出：“已有令人极度不安的报告显示，Grok被用于生成和传播裸体图像，这可能构成性图像滥用或淫秽内容，其中还包括儿童性图像，可能涉及儿童性虐待材料。”

　　加州成为美国首个采取行动的州。总检察长邦塔表示：“xAI似乎允许大规模生产深度伪造图像，用于在X等社交媒体平台骚扰妇女和女童。近期关于这些图像的大量曝光令人震惊。”他补充道：“有分析显示，在圣诞节至新年期间xAI生成的2万张图像中，超过半数描绘人物衣着极其暴露，其中部分似乎是儿童。”

　　加州州长加文·纽瑟姆也谴责此事。他在X账号写道：“xAI未经同意制作色情AI深度伪造内容——包括对儿童进行数字脱衣——并允许施害者传播的行为令人作呕。我要求总检察长立即调查并追究该公司责任。”美国教师联合会13日宣布将退出X平台，指责该平台在制作传播“令人作呕的儿童图像”中扮演帮凶角色。

　　马斯克、xAI及X平台已承认面临舆论压力。自9日起，X将Grok的图像生成编辑功能限制为付费订阅用户专享。14日公司声明称：“我们已采取技术措施，防止Grok账户编辑真人穿着比基尼等暴露服装的图像。”

　　马斯克本人否认相关指控。他表示：“我对Grok生成未成年人露骨内容图像一事毫不知情。”并强调：“Grok不会自主生成图像，仅根据用户请求创作内容。当被要求生成图像时，Grok会拒绝制作任何非法内容，严格遵守符合相关国家或地区法律的操作准则。”