我出生在一个严格的长老会文化背景中。从政治立场来说，我比唐纳德·特朗普的肤色还要“橙”。但今天，我却跪下来感谢教皇。

　　他发布了今年最具影响力的政治文献，直面我们时代最重大的挑战。他的首道通谕《崇高的人类》探讨了人工智能在未来数月和数年间将对我们的生活造成的改变。AI将不可逆转地大规模改变我们的经济和社会；它将改变作为人类的意义；甚至可能标志着人类自身的终结。如果连教皇都需要站出来警示这场革命，那么或许宗教改革并非一个那么好的主意。

　　这份文献有意被塑造成135年前利奥十三世具有里程碑意义的通谕《新事》的继承者，该通谕对工业化的挑战以及社会主义与自由市场资本主义的竞争意识形态，提出了独特的“天主教社会思想”应对方法。

　　AI给我们的生活带来的变革，将与两个世纪前的工业革命一样具有颠覆性。它不同于任何其他技术突破——因为它是一种能够自我改进、成长、学习和控制的技术。AI超越人类智慧的速度令人头晕目眩。我们很多人都熟悉摩尔定律——即计算机芯片每两年处理能力翻倍的观察规律。而就在不久前，AI每七个月就能将其在固定工时内完成任何人类任务的能力翻倍。如今，实现同样的指数级飞跃所需的时间已缩短至仅仅三个月。

　　AI能完成的任务不仅仅是快速的数学推理、强大的谷歌搜索或即时动画。它能比最杰出的工程师更快、更流畅地编写计算机代码。最近Anthropic公司开发的Mythos模型可以入侵任何在线平台——从国防基础设施到整个银行系统——其速度、强度和彻底性只有极少数人类能理解，更不用说匹敌了。

　　但AI并不仅仅体现在闪烁屏幕上光速般的进步。它可能对现实世界产生毁灭性影响。AI驱动的突破——如蛋白质折叠和其他生命科学发现——不仅有可能消除疾病，而且如果落入一个稍有能力的生物学毕业生手中，还可能制造出致命病原体。AI已经改变了战争形态。乌克兰的无人机防御系统正是通过数据处理来克服俄罗斯在人力上的巨大优势。美国和以色列的AI驱动精确打击，能在指挥官的一念之间“蒸发”指定目标。事实上，教皇的观点之一在于，为取得对任何潜在敌人的军事优势而展开的竞赛，将意味着“杀伤链”必须以如此速度运行，以致人类判断的时间和空间将被消除。这将是算法主导的歼灭。“正义战争”的辩论标准，已被“杀或被杀”的即时战争逻辑所淘汰。

　　当然，AI为改善人类地球处境带来潜力的同时，也伴随着毁灭的可能性。在《优雅的机器》一文中，Anthropic CEO达里奥·阿莫迪阐述了这项技术如何能遏制疾病、延长寿命、提升生产力、赋能穷人、让公共服务变得前所未有的高效和响应灵敏，甚至强化我们的民主体系。他寄托于这项技术的某些希望或许天真，但其变革力量毋庸置疑。正因如此，令人沮丧的是，当工程师和神职人员正在深思熟虑影响深远的思想时，我们的政治领袖——当前民主体系的守护者——却对这项影响所有人的技术几乎无话可说。

　　那些需要担心如何运用自己资金（而非公共资金）的人，显然已经注意到了。前沿AI公司及其所依赖的芯片制造商（如英伟达）的估值持续攀升。投资者认识到这些技术正在重塑职场。Anthropic及其竞争对手OpenAI，连同埃隆·马斯克的SpaceX，都将在未来几个月内进行首次公开募股。它们每一个都将是历史上吸引新投资的最大磁石；它们共同标志着资本主义的一个转折点。

　　投资者知道，最快采用并有效部署AI工具的公司将获得巨大竞争优势：以神速响应消费者、升级产品、改善商品和服务的能力。这是一场尚未有约束手段的前沿革命。大多数现任政客并未充分理解或阐述其后果，英国尤甚。

　　这就是为什么托尼·布莱尔批评工党对我们这个时代的回应异常浅薄是对的。

　　就在上周，雷切尔·里夫斯向议会发表紧急财政声明，以应对中东战争的后果。最引人注目的头条措施是削减游乐场、动物园和主题公园的增值税。一场巨变正在一个支持旨在获取核能力的恐怖网络的政教合一国家，与世界上占主导地位的军事经济强国之间激烈展开。这场战争扼杀了全球石油供应，破坏了全球航行自由原则，并危及粮食安全。而我们财政大臣的回应，只是为去奥尔顿塔乐园玩一天省下几英镑。

　　至少埃德·戴维在选举期间冲下多个水滑梯时，他承认那是个噱头。里夫斯似乎认为这能媲美马歇尔计划，像是个战时重建项目。我们或许是在火山边缘野餐，但套餐本身从未如此划算。

　　如果财政大臣对一场正在进行的战争的回应如此微不足道，我们又怎能指望她让我们为即将到来、更加深刻和持久的冲击做好准备？

　　AI以无人能及的速度和难以超越的复杂程度完成几乎所有基础文书研究和分析任务的能力，很可能使大多数入门级专业职位变得多余。会计师、律师、管理顾问和银行家的基础工作，可以被机器更好、更快、更便宜地完成——只需最少的人类监督。这种变化并非一代人之遥。它将在数月和数年内到来，并将冲击一代人——他们早已因学生贷款负担、住房成本以及老年精英的安逸生活而感到与资本主义和民主制度疏离。

　　AI汲取人类过往的成就——所有文本、作品和哲学中沉淀的知识与创造力——并从历代劳动中提取其所需的价值。那些珍视人类创造力的人，自然会寻求保护其知识产权，免受这种现代版“圈地运动”技术形式的侵害。但正如过去一样，放弃旧有所有权形式以获得生产力提升，对于那些寻求增长的国家来说将极具诱惑力。在倡导手工艺经济的阵营（从艾尔顿·约翰到卑微的杂志撰稿人，他们希望保护自己的作品）与拥有资本和人脉、投资于大型语言模型（承诺将过去创造转化为无尽新奇迹）的阵营之间，新的战斗即将来临。

　　这些问题——关乎未来经济活动的本质——与重构动植物DNA乃至在胚胎阶段及之后重新设计人类所带来的挑战和机遇并存，也与以牺牲隐私、尊严和其他人类极限为代价来提高医疗等服务的效率是否明智的问题息息相关。

　　目前，关于这项技术将走向何方以及如何部署的决策，连同强大的金融权力，集中在危险地少数人手中。那些掌控主要AI实验室的人，拥有堪比昔日奥本海默和费米的力量，但他们并非作为民主力量的代理人行事，而是作为陷入个人掌控赛跑的雄心勃勃的企业家。幸运的是，他们中最优秀的人——Anthropic的达里奥·阿莫迪和DeepMind的德米斯·哈萨比斯——是深思熟虑、道德严肃的人。但我们不能依赖几位天才工程师的“优雅恩典”来塑造我们所有人的未来。

　　正如教皇利奥本人所言：“AI倾向于放大那些已经拥有经济资源、专业知识和数据访问权的人的力量。鉴于共同利益和物品的普遍归宿，这引发了严重关切，因为少数但极具影响力的群体可以塑造信息和消费模式，影响民主进程，并操纵经济动态以谋取私利，从而破坏社会正义和人民之间的团结。”

　　在这场辩论中，我们需要有能力——用葛兰西的话说——做到“智识上的悲观，意志上的乐观”的政治家。他们能理解我们所面临挑战的规模，也有能力建立必要的联盟、结构和公众支持，以引导这项技术造福人类。在英国，除了发出陈词滥调和空话之外，几乎没有几个政客真正开始参与这场辩论。里希·苏纳克是其中一个，他在任期间建立的AI安全（现为安全）研究所确实具有远见。他认识到，要实现AI的益处，必须使这项技术与人类价值观保持一致。在现任政府中，利兹·肯德尔和卡尼什卡·纳拉扬关注到了这些问题。但在工党中，对AI对民主后果思考最深的人（摩根·麦克斯威尼）却因过于“派系化”的“罪过”而被逐出政府——而驱除他的人本身除了派系和内斗之外，不知还有其他世界。

　　在我们国家生活的这个时刻，最重要的是严肃。然而，我们的政府在纠结公交车费和游乐场票价。而目前在民调中领先的反对党“改革党”，则提供了荒谬且不可行的减税方案——以及其领导人之间的社交媒体争吵——作为我们的娱乐。这是棉花糖经济和椰子摊政治，而世界正以数百年未见的规模和速度发生变革。

　　代表我们的政治阶层，作为该群体中一个忏悔的成员，让我引述的并非教皇利奥，而是另一位伟大神职人员的话：我们未尽当尽之事，却做了不当做之事，我们之中毫无健康可言。

　　迈克尔·戈夫与达米安·汤普森一同登上最新的《圣烟》播客，讨论教皇对AI的介入：

　　本文由吉伊网原创发布，未经许可，不得转载！

　　本文链接：http://www.jkiyi.com/lif/60407.html