图片来源:路透社

　　辛顿警告说，尽管有人批评，但应该认真对待人工智能的风险

　　突出了

　　欣顿表示。担心人工智能会加剧不平等

　　他指出了chatgpt式机器人制造假新闻的危险

　　ChatGPT于去年11月发布

　　被称为人工智能教父之一的杰弗里·辛顿(Geoffrey Hinton)周三敦促各国政府介入，确保机器不会控制社会。

　　今年5月，在ChatGPT发布后不久，辛顿宣布离开在谷歌工作了10年的谷歌，以更自由地谈论人工智能的危险，这引起了全世界的关注。

　　这位在多伦多大学(University of Toronto)工作的备受尊敬的人工智能科学家，在加拿大城市举行的Collision科技大会上对满座的观众发表了讲话。

　　这次会议汇集了3万多名初创公司创始人、投资者和科技工作者，他们中的大多数人希望学习如何驾驭人工智能浪潮，而不是听取有关其危险的教训。

　　辛顿说:“在人工智能比我们更聪明之前，我认为应该鼓励开发人工智能的人投入大量精力，了解人工智能可能会如何试图夺走我们的控制权。”

　　“现在有99个非常聪明的人试图让人工智能变得更好，还有一个非常聪明的人试图找出如何阻止它接管，也许你想要更加平衡，”他说。

　　辛顿警告说，应该认真对待人工智能的风险，尽管他的批评者认为他夸大了风险。

　　“我认为重要的是人们要明白，这不是科幻小说，这不仅仅是在制造恐惧，”他坚持说。“这是一个我们必须考虑的真实风险，我们需要提前弄清楚如何应对它。”

　　辛顿还对人工智能会加剧不平等表示担忧，因为人工智能带来的巨大生产力收益将惠及富人，而不是工人。

　　“财富不会流向辛勤工作的人。它会让富人变得更富，而不是更穷，这对社会非常不利。”

　　他还指出了chatgpt式机器人制造假新闻的危险，并表示他希望人工智能生成的内容可以以类似于央行为现金加水印的方式进行标记。

　　“例如，尝试把所有假货都标为假货是非常重要的。我不知道我们能否在技术上做到这一点。”

　　欧盟正在考虑在其《人工智能法案》中采用这种技术，该法案将为欧洲的人工智能制定规则，目前正在由立法者进行谈判。

　　火星人口过剩

　　Hinton列出的人工智能危险与会议讨论形成鲜明对比，会议讨论较少涉及安全和威胁，更多的是抓住ChatGPT之后创造的机会。

　　风险投资家Sarah Guo表示，将人工智能视为一种生存威胁的悲观论调为时过早，并将其比作“谈论火星上的人口过剩”，引用了另一位人工智能大师吴恩达的话。

　　她还对“监管俘获”(regulatory capture)提出了警告，即政府干预会在现有企业有机会惠及卫生、教育或科学等行业之前就对其进行保护。

　　目前的人工智能巨头——主要是微软支持的OpenAI和谷歌——是否会保持无与伦比的地位，或者新的参与者是否会用自己的模型和创新来扩大这一领域，人们对此持不同意见。

　　风险投资公司凯鹏华盈(Kleiner Perkins)的利·玛丽·布拉斯韦尔(Leigh Marie Braswell)说:“我仍然认为，五年后，如果你想找到最好、最准确、最先进的通用模型，你可能还是得去找少数几家有资金的公司。”

　　Gradient Ventures的扎卡里·布拉顿-格伦农(Zachary Bratun-Glennon)表示，他预计未来“将会有数百万个模型跨越一个网络，就像我们今天的网站网络一样。”