meta宣布,该公司将开始对发布在Facebook、Instagram和Threads上的图片进行标记,只要它检测到这些图片是用人工智能创建的。
这家社交媒体巨头表示,它目前正在建设这项能力,并将在“未来几个月”、今年全球一些重大选举之前在其社交平台上推出这项功能。
meta已经在使用自己的人工智能创建的图像上贴上了标签,但它表示,它的新功能将使它能够标记来自谷歌、OpenAI、微软、Adobe、Midjourney和Shutterstock的人工智能创建的图像,这是全行业努力使用“最佳实践”的一部分,并在图像及其元数据上放置“隐形标记”,以帮助识别它们是人工智能生成的。
meta全球事务总裁尼克·克莱格(Nick Clegg)承认,不良行为者有可能利用人工智能生成的图像传播虚假信息,这是meta引入该功能的一个关键原因。
他说:“这项工作尤其重要,因为在未来几年,这可能会成为一个越来越敌对的领域。”
“那些积极想要用人工智能生成的内容欺骗人们的个人和组织将寻找方法绕过现有的保护措施来检测它。
“在整个行业和整个社会,我们需要继续寻找保持领先一步的方法。
“与此同时,在确定内容是否由人工智能创建时,重要的是人们要考虑几件事,比如检查分享内容的账户是否值得信赖,或者寻找可能看起来或听起来不自然的细节。”
克莱格在一篇关于该声明的博客文章中还证实,在音频和视频内容中加入标记的使用规模还没有达到同样的规模,因此meta的工具还不适用于其他公司创作的、随后在meta平台上分享的任何此类内容。
他补充说,meta正在为用户添加一个工具,让他们自愿“披露何时分享人工智能生成的视频或音频,这样我们就可以给它贴上标签”。
他说:“我们将要求人们在发布带有数字制作或修改的逼真视频或逼真音频的有机内容时使用这种披露和标签工具,如果他们不这样做,我们可能会对他们进行处罚。”
“如果我们确定数字创建或修改的图像、视频或音频内容在重要问题上具有特别高的欺骗公众的风险,我们可能会在适当的情况下添加更显著的标签,这样人们就有更多的信息和背景。”
克莱格表示,目前还不可能识别所有人工智能生成的内容,但该机构正在“努力”开发能够自动识别的工具。
在WhatsApp上找到爱尔兰审查员并保持最新状态