还记得计算机生成的虚假视频是如何淹没我们的社交媒体收件箱，扰乱即将到来的美国大选的吗?

　　嗯，这还没发生。麻省理工学院的一项新研究表明，即使虚假广告在后期激增，也可能无关紧要。

　　在乔·拜登总统放弃2024年竞选连任之前进行的一项实验中，麻省理工学院媒体实验室的科学家们使用广泛可用的软件制作了高度逼真的拜登和共和党总统候选人唐纳德·特朗普的“深度假”视频。在视频中，两人都说了他们在现实生活中从未说过的话。这些虚假的音频和视频片段能骗过毫无戒心的观众吗?

　　不是很经常。

　　在对2200多名在线志愿者进行的测试中，研究人员发现，人们在80%以上的时间里能够分辨出真假音频。当音频中包含候选人说这些词的假视频时，人们的表现甚至更好。事实上，赝品越“逼真”，观众就越有可能看穿它。

　　“人们实际上很擅长识别这些深度造假，”媒体实验室的博士生、本月发表在《自然通讯》(Nature Communications)杂志上的这项研究的合著者阿鲁纳·桑卡拉纳拉亚南(Aruna Sankaranarayanan)说。

　　Sankaranarayanan说，随着技术的进步，深度造假可能最终会变得更有说服力。但她说，有了今天的工具，“试图通过操纵或编造视频内容来制造虚假信息或制造混乱的普通外行将无法做到这一点，因为人们非常善于区分编造和真实。”

　　Sankaranarayanan和她的同事们收集了32个视频，内容是特朗普和拜登说了各种各样的话。一半的视频是真的，另一半是伪造的。研究人员编造了两个人可能永远不会说的话。但他们选择的引用不是极端到明显错误的。

　　例如，他们让特朗普说:“今天，作为白宫的现任总统，我仍然相信婚姻应该是一男一女之间的事。就这么简单，一个男人，一个女人。我是一个传统主义者，真的，我只是一个传统主义者。”

　　他们还错误地把这些话塞进拜登的嘴里:“大麻的使用应该而且将在联邦一级合法化。我们已经支持大麻合法化，但我们还希望在州一级制定支持性政策，使大麻使用合法化。”

　　一些测试对象只看了书面的引用，没有视频或音频。另一些人只听了原声，最后一组人看了特朗普和拜登讲话的完整视频。

　　值得注意的是，那些只读虚假陈述的人最容易被愚弄。他们判断真假的正确率只有57%，不比抛硬币好多少。但那些听过深度伪造音频的人在从真实陈述中挑选虚假陈述方面的准确率为81%。当添加视频时，他们的正确率为87%。

　　一个可能的原因是拜登和特朗普太出名了。Sankaranarayanan说:“考虑到这些政治人物非常有名，人们在多种情况下都见过他们，他们实际上在区分这些演员的深度伪造和真实视频方面做得很好。”

　　这表明，知名度较低的人可能更容易受到深度造假骗局的影响。“如果同样的实验以剑桥市长为主角，人们很可能在识别深度伪造方面就不那么准确了，”桑卡拉纳拉亚南说。

　　达特茅斯学院(Dartmouth College)政府系教授、政治虚假信息专家布伦丹·尼汉(Brendan Nyhan)表示，他对麻省理工学院的这项研究印象深刻。“这篇论文对我的观点影响很大，”尼汉说。“现在，我认为对深度造假的恐慌似乎有些言过其实。对我来说，这就像是我们对新技术的各种其他恐慌的重演。”

　　其他研究人员也得出了类似的结论。英国阿兰图灵研究所的一项新研究分析了今年早些时候英国、法国和欧盟选举期间在社交媒体上发布的深度假视频的影响。研究发现，没有证据表明这些视频对各种选举的结果有任何影响。

　　失败者很容易声称选民被欺骗而选择了其他候选人。也许是这样，但深度造假可能不是这样。他们没那么好。

　　可以通过hiawatha.bray@globe.com与海瓦塔·布雷联系。关注他@GlobeTechLab。