YouTube上的一段视频获得了近200万的点击量和8000条评论，视频描述了一段发生在利特尔顿的色情“真实犯罪”故事，“揭露了一个隐藏的秘密和谎言世界，震撼了这个小镇的核心”。

　　唯一的问题是什么?

　　这个“扣人心弦的真实犯罪故事”讲述的是利特尔顿的一位房地产经纪人在与继子发生“秘密恋情”后被他的继子谋杀，从表面上看，这完全是虚构的。这段25分钟的视频很可能是由一个生成式人工智能程序制作并解说的。

　　科罗拉多大学博尔德分校(University of Colorado Boulder)的副教授凯西·费斯勒(Casey Fiesler)研究并教授技术伦理、互联网法律和政策以及在线社区，他说:“看到这种事情我并不感到惊讶。”

　　菲斯勒说，她看到过类似的人工智能生成的内容被用来传播虚假阴谋。

　　菲斯勒说:“真正的犯罪和阴谋论一样，都是一种很有意义的题材，因为人们会看这类内容。”“这样做的动机是钱。”

　　YouTube频道“真实犯罪案件档案”(True Crime Case Files) 8个月来一直在推出外观相似、主题相似的“真实犯罪”内容，所有这些内容都依赖于静态照片，而不是任何实际的新闻镜头。7月30日，该频道发布了一段关于理查德·恩格尔伯特(Richard Engelbert)的视频，这位所谓的房地产经纪人在2014年被他的继子哈里森·恩格尔伯特(Harrison Engelbert)在一场“可怕的谋杀”中杀害。

　　视频显示，经过警方调查和陪审团审判，哈里森·恩格尔伯特被判二级谋杀罪，并被判处25年监禁，不得假释。视频中说，整个社区“深受震动”。

　　然而，没有证据表明这一切发生过。视频的旁白说，这起案件受到了当地和全国媒体的关注，但谷歌搜索没有从2014年开始的报道。当地执法官员表示，他们没有发现与这起案件相关的记录。科罗拉多州惩教署名单上也没有叫哈里森·恩格尔伯特的犯人。

　　埃里克·罗斯(Eric Ross)是第18司法区检察官办公室的媒体关系主管，他说，这个故事似乎是捏造的，因为在科罗拉多州的法庭记录中，没有一个名字出现。

　　利特尔顿警察局的警长克里斯塔·施密特(Krista Schmit)表示，该机构没有调查视频中描述的犯罪行为，视频中使用的名字都不是警察局接触过的人。

　　然而，在视频下的评论中，观众对这一虚假罪行的令人发指的性质表达了震惊、愤怒和厌恶。

　　“人们仅仅因为在互联网上看到某件事就相信它的方式将日益成为一个问题，”科罗拉多大学的费斯勒说。

　　费斯勒估计，这段视频可以轻松为创作者创造数万美元的收入，但创作者的联系方式没有列出。

　　当她观看视频时，人工智能的危险信号立即跳出来。

　　她说，语音旁白关闭了。她说，视频中使用的人物照片——都是像工作室一样的肖像——有一种“恐怖谷”的感觉。谷歌对照片的反向图像搜索不会显示真实的结果。

　　视频中的事实也说不通。

　　例如，这段生硬的叙述最初说，所谓的谋杀发生在利特尔顿的萧伯纳街——这条街在镇上并不存在——但后来又说发生在橡树街。叙述者不断改变“Engelbert”的发音。视频还说，理查德·恩格尔伯特的妻子温迪·恩格尔伯特是一所学校的校长，她不得不退出竞选“学校负责人”，这在科罗拉多州不是选举产生的职位。

　　视频中出现的其他名字没有在谷歌搜索中出现:地区检察官劳拉·米切尔，侦探詹姆斯·博尔，邻居露比·约翰逊·冈茨。

　　谷歌搜索显示的是数十个山寨YouTube视频和tiktok，以及总结原始假视频的网页。

　　制造虚假信息并不是什么新鲜事，但随着人工智能生成内容的出现，菲斯勒表示，这项技术为更多人制造和传播虚假内容提供了公平的竞争环境。

　　菲斯勒表示:“生成式人工智能所做的事情是让这些类型的坏人民主化，因为有越多的人能够创造这类内容，我们就会看到越多的内容。”-丹佛邮报/论坛报新闻服务

　　×