【编者按】在斯德哥尔摩一家实验性咖啡馆里，咖啡可能由人类手冲，但吧台背后，一个远非传统的存在正在掌控全局。旧金山初创公司Andon Labs将人工智能助手“莫娜”安插在这家同名咖啡馆，它由谷歌的Gemini驱动，从招聘员工到管理库存，几乎包揽了所有业务。这仿佛是一场未来社会的预演，但当AI成为老板，它能否盈利？又会引发哪些伦理危机？专家警告这可能打开“潘多拉魔盒”——食物中毒谁来担责？库存管理漏洞百出，甚至订购了6000张餐巾纸和3000只橡胶手套。本文带你走进这个AI掌权的实验，探讨科技与人性的边界。

　　在斯德哥尔摩一家实验性咖啡馆里，咖啡可能是由人类亲手冲泡的，但柜台背后，一个远非传统的存在正在发号施令。

　　总部位于旧金山的Andon Labs将一个人工智能助手（昵称“莫娜”）安插在瑞典首都这家同名的Andon Café咖啡馆里。人类咖啡师仍负责煮咖啡和送餐，但这位由谷歌Gemini驱动的AI助手几乎包揽了业务的其他所有方面，从招聘员工到管理库存。

　　目前尚不清楚这项实验将持续多久，但在斯德哥尔摩竞争激烈的咖啡行业中，这位AI助手似乎难以盈利。该咖啡馆自4月中旬开业以来，销售额已超过5700美元，但最初逾21000美元的预算中只剩不到5000美元。大部分资金已用于一次性购置成本，希望最终能收支平衡并赚钱。

　　许多咖啡馆顾客发现参观一家由AI运营的企业很有趣。顾客可以在店里拿起电话向AI助手提问。

　　“看看挑战极限会发生什么，这很有意思，”顾客Kajsa Norin说，“饮料味道不错。”

　　专家表示，从科技在人类未来的角色，到进行求职面试和评判员工表现，道德问题层出不穷。

　　斯德哥尔摩KTH皇家理工学院工业经济学副教授Emrah Karakaya将这项实验比作“打开潘多拉魔盒”，并表示让AI掌权会带来许多问题。如果顾客食物中毒了怎么办？该怪谁？

　　“如果没有必要的组织基础设施作为支撑，如果忽视这些错误，就可能对人、社会、环境和企业造成伤害，”Karakaya说，“问题在于，我们在意这种负面影响吗？”

　　成立于2023年的Andon Labs是一家AI安全与研究初创公司，自称专注于通过为AI助手提供“真实工具和真实资金”，在现实世界中对其进行“压力测试”。它曾与ChatGPT制造商OpenAI、Claude的Anthropic、谷歌DeepMind以及埃隆·马斯克的xAI合作，这家初创公司表示正在为“由AI自主运营组织”的未来做准备。

　　这家瑞典咖啡馆被标榜为一场“受控实验”，旨在探索未来可能如何部署AI。

　　“AI将在未来社会中占据重要地位，因此我们希望进行这项实验，看看当AI雇佣他人并运营企业时，会出现哪些伦理问题，”Andon Labs技术人员Hanna Petersson说。

　　该实验室此前曾进行试点，让Anthropic的Claude AI负责一台自动售货机业务和一家旧金山礼品店。自动售货机模拟暴露了一些令人担忧的特征：AI助手告诉顾客会退款，但从未兑现；它还故意就竞争对手的定价向供应商撒谎以获取优势。

　　莫娜在收到一些基本指示后就开始工作了，Petersson说。团队告诉它要努力让咖啡馆盈利，要友好随和，自己摸索运营细节，但需要时争取新工具。

　　此后，它签订了电力和互联网合同，并获得了食品处理和户外座位许可。然后，AI助手在linkedIn和Indeed上发布招聘广告，并为每日面包和烘焙订单与批发商设立了商业账户。它通过Slack与咖啡师沟通，经常在工作时间之外发消息，这在瑞典是职场禁忌。

　　其他问题也出现了，尤其是库存方面。

　　AI助手为这家小咖啡馆订购了6000张餐巾纸、四个急救箱和3000只橡胶手套——此外还有罐头番茄，但咖啡馆提供的任何菜品都用不到这些番茄。

　　还有就是面包。有时AI助手下单太多，而其他日子又错过了面包房每日截止时间，迫使咖啡师从菜单上撤下三明治。

　　Petersom表示，订购问题很可能源于AI助手的“有限上下文窗口”。

　　“当过去订购物品的记忆超出上下文窗口时，她完全忘记了自己曾订购过什么，”Petersson说。

　　咖啡师Kajetan Grzelczak表示，他目前还不担心被AI取代。

　　“所有工人基本都很安全，”他说，“该担心自己工作岗位的是中层老板，是管理层的人。”

　　本文由斯特网原创发布，未经许可，不得转载！

　　本文链接：https://ttes.yrowe.com/kdfa/18906/