【编者按】在人工智能军备化的十字路口，一家硅谷明星公司竟敢对五角大楼说“不”。当Anthropic以伦理为由拒绝将ClaudeAI用于自主武器系统时，这场科技与权力的碰撞瞬间点燃了公众情绪。消费者用下载量投票，让Claude首次超越ChatGPT登顶应用商店；军方则以行政禁令反击，将其列为供应链风险。这场风波撕开了AI行业的华丽包装：曾经鼓吹“近乎觉醒”的技术神话，如今创始人亲口承认“根本不够可靠用于战争”。当科技巨头们忙于收割军事合同时，谁在思考算法幻觉可能导致的平民伤亡？这场伦理拉锯战不仅关乎商业利益，更在质问：我们是否该让尚未成熟的AI，掌握生杀大权？
Anthropic对美国军方使用人工智能的道德立场，正在重塑头部AI公司间的竞争格局，同时也暴露出日益增长的认知：也许聊天机器人根本不足以胜任战争行为。
市场研究机构Sensor Tower数据显示，本周Anthropic的聊天机器人Claude在美国手机应用下载量首次超越竞争对手ChatGPT，这标志着消费者在Anthropic与五角大楼的对峙中，正用行动表达对前者的支持。
在Anthropic首席执行官达里奥·阿莫迪拒绝让公司屈服于伦理安全准则——该准则禁止技术被用于自主武器和国内大规模监控——后，特朗普政府周五下令各政府机构停用Claude，并将其列为供应链风险。Anthropic表示收到正式处罚通知后将诉诸法庭挑战五角大楼。
尽管众多军事与人权专家称赞阿莫迪坚守伦理原则，但一些人也对AI行业多年来的营销宣传感到失望——正是这些宣传说服政府将技术应用于高风险任务。
“这场混乱正是他造成的，”前海军战斗机飞行员、现任乔治梅森大学机器人自动化中心主任米西·卡明斯说，“他们曾是头号鼓吹技术能力荒谬泡沫的公司。现在突然想认真了？想告诉人们‘等等，我们真不该把这些技术用于武器’？”
Anthropic未立即回应置评请求。国防部以作战安全为由，拒绝评论是否仍在伊朗战争等场景中使用Claude。
卡明斯去年12月在顶级AI会议上发表论文，主张政府机构应禁止使用生成式AI“控制、指挥、引导或支配任何武器”。并非因为AI过于智能可能失控，而是因为Claude等聊天机器人背后的大语言模型错误频出（称为幻觉或虚构），且“本质不可靠，不适用于可能导致人员伤亡的环境”。
“你会杀害非战斗人员，”卡明斯周二接受美联社采访时直言，“你会误杀己方部队。我不确定军方是否真正理解这些局限。”
阿莫迪上周为Anthropic的伦理立场辩护时，特别强调了这些局限性：“前沿AI系统根本不够可靠来驱动全自主武器。我们不会明知故犯地提供危及美国作战人员和平民的产品。”
直到近期，Anthropic仍是同类公司中唯一获准用于机密军事系统的企业，曾与数据分析公司Palantir等国防承包商合作。特朗普总统周五（恰在批准周六对伊朗军事打击的同时）表示，五角大楼将有六个月逐步淘汰Anthropic的军事应用。
曾任Palantir顾问的卡明斯指出，Claude很可能已被用于军事打击规划。
“我衷心希望其中存在人类监督环节，”她说，“必须有人严密监护这些技术。你可以用它们执行任务，但需要反复验证、验证、再验证。”
她指出，这与AI公司传递的信息形成鲜明对比——那些公司曾暗示其技术已进化到“近乎具有感知力”。
“若要追责，我认为一半是Anthropic炒作之过，另一半是战争部的失误——他们解雇了所有本该劝阻愚蠢技术应用的专业人员。”卡明斯总结道。
本周有社交媒体评论员将Anthropic的政府困境称为“炒作税”，该观点被特朗普首席AI顾问、公司长期批评者大卫·萨克斯转发。
尽管这场风波给Anthropic带来可能危及其他军事合作关系的法律纠纷，却也巩固了其作为安全导向AI开发者的声誉。
“一家公司为坚守自认的伦理和商业选择而对抗政府，即使面临可能瘫痪业务的政策反击，这值得赞赏，”倾向自由主义的卡托研究所高级研究员詹妮弗·赫德尔斯顿评价道。
消费者已经用脚投票：Sensor Tower数据显示，Claude下载量激增使其从周六起成为最受欢迎的iPhone应用，周一更登顶全美手机系统下载榜。这代价是OpenAI的ChatGPT用户口碑受损——该公司周五宣布与五角大楼达成协议，将在机密环境中用ChatGPT替代Anthropic。
苹果商店中，ChatGPT的一星差评周六暴涨775%，本周初持续攀升，迫使OpenAI启动危机公关。
“我们不该在周五仓促宣布合作，”OpenAI首席执行官萨姆·奥尔特曼周一在社交媒体发文，“问题极其复杂，需要清晰沟通。我们本意是降温事态避免更糟结果，但看来却像投机取巧的草率之举。”
奥尔特曼原计划周二召集全体员工开会商讨后续措施。
“这项技术尚未准备好应对许多场景，我们也不清楚安全需要付出何种代价，”他坦言，“我们将与（五角大楼）通过技术保障等措施逐步解决这些问题。”
