【编者按】

　　当AI以超越人类想象的速度重塑世界，谁来为这场科技狂潮系上安全带？卡内基梅隆大学教授齐科·科尔特正手握“紧急制动阀”——他领导的4人安全委员会能直接叫停OpenAI的新模型发布。从可能被恶意利用制造生化武器的超级智能，到设计缺陷引发心理危机的聊天机器人，科尔特团队如同数字时代的“守门人”。在资本狂飙与伦理底线激烈碰撞的当下，这份被加州与特拉华州政府写入协议的监管权力，正成为科技巨头发展道路上最关键的平衡器。当AI开始触及文明存续的边界，人类需要的不仅是惊叹号，更要有保险栓。

　　如果你认为人工智能正给人类带来严峻风险，那么卡内基梅隆大学的这位教授正扮演着科技行业最举足轻重的角色之一。

　　齐科·科尔特执掌着OpenAI的4人安全委员会，手握叫停ChatGPT制造商发布新AI系统的生杀大权——无论是可能被恶势力用来制造大规模杀伤性武器的超强技术，还是设计拙劣到伤害用户心理健康的聊天机器人，都逃不过他们的法眼。

　　“我们讨论的远不止生存危机，”科尔特接受美联社专访时坦言，“当AI系统被广泛使用，所有安全威胁和关键议题都在我们的审查范围内。”

　　这位计算机科学家受命担任安全委员会主席已逾一年，但该职位在上周被赋予全新重量——加州与特拉华州监管机构将科尔特的监督权写入协议，允许OpenAI组建新商业架构以便融资盈利。

　　安全始终是OpenAI的核心使命。这个十年前以非营利研究实验室身份诞生的机构，立志打造造福人类的超强AI。但自ChatGPT引爆全球AI商业狂潮后，该公司被指控为保持领先地位将未充分安全验证的产品仓促推向市场。2023年CEO萨姆·奥尔特曼遭短暂罢免的内部分歧，更让公众担忧其已背离初心。

　　当这家旧金山机构试图转型为传统营利公司时，曾遭遇强烈反弹——包括联合创始人埃隆·马斯克提起的诉讼。

　　上周OpenAI与两州检察长联合宣布的协议，旨在消除这类忧虑。承诺的核心是：在组建新公益公司时，安全决策必须优先于财务考量。

　　科尔特虽不进入营利实体董事会，但根据协议备忘录，他享有列席所有董事会会议、获取安全决策信息的完整权限。这份长达数页的文件中，除检察长外仅有科尔特被具名。

　　科尔特表示协议实质上确认了去年成立的安全委员会将保留既有权力。另三位委员同样位列董事会，其中包括前美国网络司令部司令保罗·中曾根。奥尔特曼去年退出安全委员会，被视为增强其独立性的关键举措。

　　“我们有权要求延迟模型发布，直到满足特定安全条件，”科尔特透露。对于是否曾叫停过产品发布，他以程序保密为由未予置评。

　　他预测未来数月到数年需重点关注AI智能体的多元风险：从“遭遇恶意文本时是否会导致数据泄露”的网络安全，到关乎AI系统性能的模型权重安全。

　　“但有些风险是这类新型AI特有的，”他尖锐指出，“恶意用户是否会利用模型大幅提升设计生物武器或发动网络攻击的能力？”

　　“最后是AI对民众的心理影响，”他补充道，“人与模型交互产生的心理健康效应，所有这些都必须从安全角度严肃对待。”

　　OpenAI今年已因其旗舰聊天机器人面临诉讼——加州一对夫妇起诉称，他们青少年儿子在与ChatGPT长时间交互后于四月自杀身亡。

　　这位卡内基梅隆大学机器学习系主任，早在千禧年初就读乔治城大学时就开始研究AI，远未成潮流。“当时机器学习是冷门领域，我们避免使用AI这个词——它曾过度承诺却成果寥寥。”

　　42岁的科尔特关注OpenAI多年，2015年更受邀参加其发布会。但他坦言未料到AI进化如此迅猛：“即使深耕该领域的学者，也鲜有人预见当前的能力爆发与风险井喷。”

　　AI安全倡导者正密切关注重组进程与科尔特工作。最尖锐的批评者之一表示“谨慎乐观”，前提是科尔特团队“能真正组建团队发挥实质作用”。

　　非营利组织Encode法律顾问内森·卡尔文评价：“他的专业背景与职位高度契合，是绝佳人选。”这位曾被OpenAI传唤配合马斯克诉讼调查的专家强调：“若董事会认真对待这些承诺，将是重大进步。但若仅停留在纸面，则毫无意义。我们尚在观察阶段。”

　　马特·奥布莱恩

　　奥布莱恩为美联社报道科技与人工智能商业领域。

　　mailto

　　本文由路知网原创发布，未经许可，不得转载！

　　本文链接：https://m.yrowe.com/td/27691.html