在上周发给用户的推送通知中，苹果的人工智能新闻汇总技术严重篡改了BBC的一篇新闻报道，并声称联合医疗首席执行官谋杀案的嫌疑人路易吉·曼吉奥内（Luigi Mangione）也开枪自杀了。这不是真的。Mangione已被拘留，并被指控谋杀为“恐怖主义行为”。苹果似乎也不能幸免于许多其他生成式人工智能系统中出现的虚假信息问题，在这些系统中，人工智能只是虚构事实，然后把它们当作真实的来处理。

　　据美国有线电视新闻网报道，新闻倡导组织“无国界记者”的技术和新闻台负责人文森特·贝尔蒂埃呼吁苹果“采取负责任的行动，取消这一功能”。伯蒂埃简洁地总结了这个问题：“人工智能S是概率机器，事实不是靠掷骰子来决定的。”更严重的是，无国界记者强调，它“非常担心”人工智能技术对新闻报道构成的风险，声称这项技术“太不成熟”，无法向公众传递正确的信息。BBC自己也联系了苹果公司，并在一份声明中表示，对于这个庄严的新闻机构来说，“观众可以信任以我们的名义发布的任何信息或新闻，包括通知，这是至关重要的”。据报道，苹果公司没有回应置评请求。

　　新闻汇总技术符合当前人工智能技术的许多节省时间和精力的承诺。正如美国有线电视新闻网（CNN）所指出的那样，苹果公司已经宣传了其将特定内容简化为“易于理解的段落、要点、表格或列表”的能力，并允许用户将新闻通知分组为单个推送通知。

　　这家科技巨头正全力投入人工智能技术，今年夏天推出了引人注目的“苹果智能”品牌，并于9月发布了一系列以人工智能系统为核心的新款iPhone。考虑到人工智能技术所蕴含的风险，以及一些人工智能系统使用用户数据以可能泄露敏感信息的方式训练算法的事实，苹果正将隐私作为其人工智能发展的一个关键部分。

　　在不久的将来，当OpenAI的ChatGPT被整合到iPhone操作系统中，以回答更高级的用户问题时，这家人工智能市场的领导者不会获得敏感用户数据的访问权限。奇怪的是，苹果总结科技的新闻有这么大的漏洞，允许它以一种苹果设备的普通用户——也许是那些已经习惯于相信科技巨头“良好行为”立场的人——会相信的方式来制造“新闻”，这是真实的信息。

　　随着人工智能进入新的一年，我们肯定会看到更多这样的麻烦。人工智能产生的错误信息是一个日益突出的问题——达沃斯世界经济论坛会议期间发布的一份报告将其定义为全球最大的短期威胁。就连OpenAI首席执行官萨姆·奥特曼（Sam Altman）也表示，他担心人工智能产生的错误信息带来的威胁，尤其是在大选年。你可能会认为他对人工智能的前景持鹰派态度。有趣的是，随着人工智能系统变得越来越智能，这项技术本身可能会在发现和阻止错误信息的传播方面发挥作用——世界经济论坛6月份的另一份报告强调，人工智能擅长“分析模式、语言和背景，以帮助内容审核”。

　　所有这些都是另一个提醒——如果你仍然需要它——如果你的公司以任何方式依赖人工智能来生成电子邮件，作为客户查询的门户，或者发布内容，那么你需要在它“上线”之前检查和反复检查它的真实性。就目前而言，人工智能发行循环中仍然需要一个人。-论坛新闻服务公司