【编者按】

　　当科技巨擘们在AI军备竞赛中狂飙突进，一场关乎人类命运的警钟正在敲响！哈里王子与梅根罕见携手美国保守派名嘴、AI教父级学者、硅谷传奇创始人组成”跨界联盟”，向失控的超级智能亮出红牌。这封仅30字却字字千钧的公开信，揭开了科技精英闭门密谈的禁忌话题——那个可能让人类沦为附庸的”终极算法”。从白金汉宫到白宫幕僚，从诺贝尔奖得主到摇滚巨星，这场横跨政商文娱的集体觉醒正在颠覆一个认知：当机器学会思考，人类是否正在亲手开启潘多拉魔盒？让我们透过这场世纪论战，看清代码背后关乎文明存续的暗涌。

　　哈里王子与妻子梅根携手知名计算机科学家、经济学家、艺术家、福音派基督教领袖，以及美国保守派评论员史蒂夫·班农和格伦·贝克共同发声，呼吁禁止可能威胁人类的AI”超级智能”。

　　这封由跨越政治立场与地域的公众人物联署的信件于周三发布，直指谷歌、OpenAI和meta平台等科技巨头——这些企业正竞相开发旨在多项任务中超越人类的人工智能形态。

　　这份30字的声明写道：

　　“我们呼吁禁止超级智能的开发，除非达成广泛科学共识确认其可实现安全可控发展，并获得公众强烈支持，否则禁令持续有效。”

　　序言部分指出，AI工具可能带来健康与繁荣，但与此同时，”许多领先AI公司公开宣称将在未来十年开发现行所有认知任务上全面超越人类的超级智能。这已引发从经济淘汰、权力剥夺、自由丧失、公民尊严沦陷到国家安全风险乃至人类灭绝可能性的深切忧虑。”

　　哈里王子在个人附言中强调：”AI的未来应服务人类而非取代人类。我认为进步的真正考验不在于发展速度，而在于驾驭智慧。我们没有第二次机会。”

　　苏塞克斯公爵夫人梅根与丈夫共同签署了公开信。

　　另一位签署者、加州大学伯克利分校计算机科学教授斯图尔特·罗素写道：”这并非传统意义上的禁令或暂停令，只是要求对这项据开发者承认具有导致人类灭绝重大风险的技术采取充分安全措施。这个要求过分吗？”

　　联署名单还包括图灵奖得主约书亚·本吉奥和杰弗里·辛顿。去年荣获诺贝尔物理学奖的辛顿始终积极警示他们参与开创的技术潜在危险。

　　令人意外的是，班农与贝克也出现在名单中。信件的发起方”生命未来研究所”试图借此向特朗普的”让美国再次伟大”运动示好，尽管特朗普任内的白宫团队曾试图放宽美国AI发展限制。

　　其他签署者包括苹果联合创始人史蒂夫·沃兹尼亚克、英国亿万富翁理查德·布兰森、曾服务共和党与民主党政府的美国前参谋长联席会议主席迈克·马伦，以及奥巴马总统时期的国家安全顾问苏珊·赖斯。

　　前爱尔兰总统玛丽·罗宾逊与多位英国及欧洲议员共同联署，演员斯蒂芬·弗雷、约瑟夫·高登-莱维特和音乐人will.i.am也位列其中——后者在音乐创作中始终积极拥抱AI技术。

　　高登-莱维特写道：”是的，我们需要能帮助治愈疾病、巩固国家安全的特定AI工具。但AI是否还需要模仿人类、教育我们的孩子、把所有人变成内容成瘾者，并通过广告赚取暴利？大多数人并不想要这些。”

　　这封信件可能引发AI研究界关于超人类AI可能性、技术路径及危险程度的持续辩论。

　　生命未来研究所所长马克斯·泰格马克表示：”过去多是技术宅之间的论战，而现在我们看到批评声音已彻底主流化。”

　　使辩论更复杂的是，那些致力于开发超级智能（或称通用人工智能AGI）的企业，有时会夸大其产品能力以提升市场吸引力，这加剧了人们对AI泡沫的担忧。当OpenAI研究人员声称ChatGPT破解了未解数学难题时，实际上它只是汇总了网络现有信息，此事招致数学家与AI科学界的集体嘲讽。

　　泰格马克指出：”大量炒作内容需要投资者保持警惕，但纵观全局，AI在过去四年的发展速度远超大多数人预期。”

　　该组织曾在2023年3月AI商业化萌芽期发布公开信，呼吁科技巨头暂缓开发更强大的AI模型，但主要AI公司均未响应。当时最著名的签署者埃隆·马斯克，同期却悄然创立自己的AI初创公司，与那些被他要求”暂停半年”的企业展开竞争。

　　被问及是否再次联系马斯克时，泰格马克表示已致信所有美国主要AI开发商CEO，但不预期他们会签署。”说实话我理解他们的处境，他们深陷这场逐底竞赛，承受着不得不持续前进以免被超越的巨大压力。正因如此，我们必须给超级智能竞赛贴上警示标签，直到美国政府出手干预。”

　　马特·奥布莱恩

　　美联社科技与人工智能商业领域记者

　　mailto

　　本文由路知网原创发布，未经许可，不得转载！

　　本文链接：https://m.yrowe.com/ga/26007.html