在隐私监管机构表示Snapchat未能评估其对儿童的风险后,该公司可能被勒令关闭其在英国的人工智能聊天机器人。
信息专员办公室(ICO)表示,他们发现Snap在推出My AI聊天机器人之前进行的数据保护评估存在问题。
如果临时调查结果最终确定,Snap可能会被要求停止在拥有2200万用户的英国提供这款聊天机器人。
这是英国迄今对所谓的大型语言模型——ChatGPT和Google Bard等新一波人工智能系统——进行的最重大打击。
英国信息专员约翰?爱德华兹(John Edwards)警告称,在竞相向公众推出产品的过程中,人工智能公司可能会走捷径,该行业不应成为“蛮荒西部”。
“我认为,我们看到的是前所未有的市场热潮。当你明白这一点时,在新技术竞争激烈的市场中,你可以看到偷工减料。”
“让他们知道我们会密切关注,这很重要。我们将评估他们的遵守程度。如果我们发现他们被过早地部署,我们将介入并采取行动。
“来自ICO的信息是,这不是一个狂野的西部。有一个监管框架,现有的数据保护法确实适用于这些新技术。”
Snapchat因My AI机器人而受到批评,该机器人基于ChatGPT技术,但为儿童提供了额外的保护。
该公司被指控在是否收集位置数据的问题上误导用户,并推荐不安全的饮食。与ChatGPT不同,它还在对话中插入广告。
监管机构表示:“ICO的调查暂时发现,Snap在推出‘我的人工智能’之前进行的风险评估没有充分评估生成式人工智能技术带来的数据保护风险,尤其是对儿童的数据保护风险。”
“在涉及使用创新技术和处理13至17岁儿童个人数据的情况下,对数据保护风险的评估尤为重要。”
Snap表示将与监管机构合作。
“我们正在仔细审查ICO的临时决定,”它表示。
“就像ICO一样,我们致力于保护用户的隐私。根据我们产品开发的标准方法,My AI在公开发布之前经过了强有力的法律和隐私审查程序。我们将继续与ICO进行建设性合作,以确保他们对我们的风险评估程序感到满意。”
ICO对使用ChatGPT等生成式人工智能服务发出了一系列警告。该公司最近警告称,使用该技术撰写电子邮件的上班族,如果在起草电子邮件时使用了个人数据,可能会违反数据保护法。
人工智能公司还被警告,他们将因不断收集人们的个人数据而面临罚款。