本周关于OpenAI的混乱新闻为这个更大的问题提供了一个立足点。
人工智能具有巨大的潜在社会效益，例如设计新的救生药物或找到教育儿童的新方法。
但它也有更大的潜在社会成本。如果我们不小心，人工智能可能会成为弗兰肯斯坦怪物:它可能会取代几乎所有的工作。这可能导致自主战争。
即使是制造尽可能多的回形针这样一个平凡的目标，也可能促使全能的人工智能终结地球上的所有生命，以追求更多的回形针。
那么，你将如何建立一个企业，以获得尽可能多的人工智能的好处，同时避免这些弗兰肯斯坦怪物的恐怖?
你可以从一个由伦理学家和研究人工智能潜在弊端的专家组成的非营利委员会开始。
这个非营利组织将需要大量昂贵的计算能力来测试其模型，因此非营利组织董事会将需要监督一个吸引投资者的营利性商业部门。
如何防止投资者接管企业?
你必须限制流向投资者的利润(通过所谓的“上限利润”结构)，而且你不会让投资者进入董事会。
但是，当董事会成员和员工被赚取数十亿美元的前景所诱惑时，你如何防止贪婪腐蚀企业?
嗯，你不能。这是私营企业开发人工智能的整体理念的缺陷。
我描述的非营利组织是开放人工智能在2015年开始的治理结构，当时它是一个以研究为导向的非营利组织，旨在建立安全的人工智能技术。
但自从OpenAI的ChatGPT看起来正在实现技术的圣杯——一个能够产生数十亿美元利润的大规模消费者平台——以来，它的非营利性安全使命就受到了巨额资金的威胁。
如今，大笔资金正流向安全领域。
2019年，OpenAI转向了上限利润结构，以便吸引投资者为计算能力和人工智能人才付费。
OpenAI最大的外部投资者是微软(Microsoft)，微软显然希望为其高管和股东尽可能多地赚钱，而不顾安全。自2019年以来，微软已经向OpenAI投资了130亿美元，期望从这笔投资中获得巨大回报。
但OpenAI有限的利润结构和非营利性董事会限制了微软的盈利能力。该怎么办?
OpenAI的首席执行官萨姆·奥特曼显然试图两者兼得——既给微软一些它想要的东西，又不放弃该非营利组织的人道主义目标和保障措施。
但没有成功。上周，OpenAI的非营利性董事会将奥尔特曼赶出了公司，大概是因为担心他过于倾向于微软的盈利目标，而对人工智能带来的威胁关注不足。
奥特曼被解雇后去了哪里?当然是微软。
OpenAI的700多名员工——它宝贵的人才库——怎么办?
即使我们假设他们关心的是安全，他们也拥有公司的股票，如果OpenAI优先考虑增长而不是安全，他们就会赚很多钱。据估计，在收购要约中，OpenAI的价值可能在800亿至900亿美元之间，这使其成为有史以来世界上最有价值的科技初创企业之一。
因此，本周早些时候，几乎所有OpenAIs员工都签署了一封信，告诉董事会，如果董事会不恢复奥尔特曼的首席执行官职位，他们将跟随奥尔特曼前往微软，这并不令人意外。
如果OpenAI存活下来，并且他们可以在收购要约中出售自己的股份，那么包括Altman、OpenAI的员工甚至微软在内的所有参与者都将赚到更多的钱。
您看!周二，OpenAI董事会恢复了Altman的首席执行官职位，并同意对公司进行全面改革——抛弃了反对他的董事会成员，并增加了两位似乎乐于接受微软出价的人(Bret Taylor, Facebook早期高管和Salesforce前联合首席执行官，以及Larry Summers，前财政部长)。
微软首席执行官萨蒂亚·纳德拉(Satya Nadella)表示，“我们对OpenAI董事会的变动感到鼓舞”，称这是“迈向更稳定、信息更灵通、更有效的治理之路必不可少的第一步”。
有效的治理?赚了一大笔钱。
商业媒体对此感到高兴——对他们来说，“成功”自动定义为赚到尽可能多的钱。
该公司曾多次将这家非营利性公司的董事会描述为一个“错综复杂的”治理结构，阻碍了奥特曼“更快”地前进，并预测，如果OpenAI在增长和安全之间的竞争中分崩离析，“人们会指责董事会……摧毁了数十亿美元的股东价值。”
这一切都表明，人工智能真正的弗兰肯斯坦怪物是人类的贪婪。
私营企业受到越来越大的利润的诱惑，不能指望它们对不受约束的人工智能带来的恐怖进行自我监管。
过去一周围绕OpenAI的激烈争斗表明，即使是一个为投资者设定利润结构上限的非营利董事会，也无法与科技巨头和华尔街的力量相匹敌。
金钱是最终的胜利。
未来的问题是，同样容易受到巨额资金腐败影响的政府能否更好地权衡人工智能的潜在好处和潜在恐怖，并对这个怪物进行监管。
在我们即将开始为期十周的周五关于共同利益和资本主义的讨论之际，这是一个值得思考的重要问题。
这篇文章发表在Robert Reich的Substack上
