离那封暂停信已经过去六个月了

   日期:2025-07-27     来源:本站    作者:admin    浏览:80    
核心提示:      显然,这并没有发生。  我与麻省理工学院(MIT)教授、FLI的创始人兼总裁马克斯?泰格马克(Max Tegmark)坐下来,回顾

  

  

  显然,这并没有发生。

  我与麻省理工学院(MIT)教授、FLI的创始人兼总裁马克斯?泰格马克(Max Tegmark)坐下来,回顾了自那以来发生的事情。以下是我们谈话的要点。

  关于改变奥弗顿对人工智能风险的看法:泰格马克告诉我,在与人工智能研究人员和科技公司首席执行官的交谈中,很明显,人们对人工智能带来的生存风险感到非常焦虑,但没有人觉得他们可以公开谈论这个问题,“因为害怕被嘲笑为勒德分子危言旦言者。”他说:“这封信的主要目标是使对话成为主流,移动奥弗顿的窗口,让人们感到安全地表达这些担忧。”“六个月后,很明显这部分是成功的。”

  但仅此而已:“不太好的是,所有的公司仍在全速前进,而我们在美国仍然没有有意义的监管。看起来美国的政策制定者们尽管嘴上说着,但今年不会通过任何有意义的法律来控制最危险的东西。”

  政府应该介入的理由:Tegmark正在游说成立一个类似于fda的机构,以执行有关人工智能的规定,并要求政府迫使科技公司暂停人工智能的开发。“很明显,(像山姆·奥特曼、德米斯·哈萨比斯和达里奥·阿莫代伊这样的人工智能领导者)自己也非常担心。但他们都知道他们不能独自停下来,”泰格马克说。单独暂停对他们的公司来说将是一场灾难,对吗?他补充道。“他们只是在竞争中被淘汰了,然后那个CEO就会被一个不想停下来的人取代。暂停的唯一方法是世界各国政府介入,制定安全标准,迫使所有人暂停。”

  那么埃隆呢?马斯克在呼吁暂停的信上签了名,但却成立了一家名为x.a AI的新人工智能公司,开发能够“理解宇宙真实本质”的人工智能系统。(马斯克是FLI的顾问)“显然,他想要暂停,就像许多其他人工智能领导者一样。但只要没有,他觉得自己也必须留在比赛中。”

  为什么他认为科技公司的首席执行官们心中有人性的善良:“我为什么认为他们真的希望人工智能有一个美好的未来,而不是一个糟糕的未来?我认识他们很多年了。我经常和他们交谈。即使在私人谈话中我也能看出来——我能感觉到。”

  对于那些认为关注存在风险会分散人们对当前危害的注意力的批评者,他的回应是:“至关重要的是,那些非常关心当前问题的人和那些关心即将到来的危害的人要合作,而不是内斗。我对那些关注当前危害的人没有任何批评。我觉得他们这么做很好。我非常关心这些事情。如果人们参与这种内斗,只会帮助大型科技公司分裂并征服所有想要真正控制大型科技公司的人。”

 
打赏
 
更多>同类文章

推荐图文
推荐文章
点击排行