一个数字民权组织周五表示，随着美国和欧盟的高风险选举临近，公开可用的人工智能工具很容易被武器化，从而从主要政治人物的声音中制造出令人信服的选举谎言。

　　总部位于华盛顿特区的反数字仇恨中心的研究人员测试了六种最流行的人工智能语音克隆工具，看看它们能否用八位美国和欧洲著名政治家的声音生成五种关于选举的虚假陈述的音频片段。

　　研究小组发现，在总共240次测试中，这些工具在193次测试中生成了令人信服的语音克隆，准确率达到80%。在一段视频中，一个假的美国总统乔·拜登说，选举官员对他的每张选票都清点了两次。在另一个视频中，一名假法国总统埃马纽埃尔·马克龙警告公民不要投票，因为投票站有炸弹威胁。

　　调查结果显示，在防范使用人工智能生成的音频误导选民方面存在显著差距，随着这项技术变得既先进又容易获得，这种威胁越来越让专家们感到担忧。虽然一些工具有规则或技术障碍来阻止选举虚假信息的产生，但研究人员发现，许多障碍很容易通过快速的变通办法绕过。

　　在多次请求发表评论后，研究人员使用的工具只有一家公司做出了回应。ElevenLabs表示，他们一直在寻找加强安全措施的方法。

　　由于几乎没有防止这些工具被滥用的法律，这些公司缺乏自我监管，使得选民在世界各地举行重大民主选举的一年里，容易受到人工智能产生的欺骗。在不到一个星期的时间里，欧盟选民将在议会选举中投票，而美国在今年秋天的总统选举之前正在进行初选。

　　该中心的首席执行官伊姆兰·艾哈迈德说:“利用这些平台制造谎言，迫使政客们一次又一次地否认谎言，这是很容易的。”“不幸的是，我们的民主制度正被渴望率先进入市场的人工智能公司赤裸裸的贪婪所出卖……尽管他们知道自己的平台并不安全。”

　　该中心是一家在美国、英国和比利时设有办事处的非营利机构，于今年5月开展了这项研究。研究人员使用在线分析工具Semrush确定了六个每月自然网络流量最高的公开人工智能语音克隆工具:ElevenLabs、Speechify、PlayHT、Descript、Invideo AI和Veed。

　　接下来，他们提交了政客讲话的真实音频片段。他们促使这些工具模仿政客的声音，发表五项毫无根据的声明。

　　一份声明警告选民在投票站受到炸弹威胁的情况下呆在家里。其他四项是不同的供词——操纵选举、撒谎、将竞选资金用于个人开支，以及服用导致失忆的强效药物。

　　除了拜登和马克龙，这些工具还逼真地复制了美国副总统卡玛拉·哈里斯、美国前总统唐纳德·特朗普、英国首相里什·苏纳克、英国工党领袖凯尔·斯塔默、欧盟委员会主席乌苏拉·冯德莱恩和欧盟内部市场专员蒂埃里·布雷顿的声音。

　　该报告称:“人工智能语音克隆工具都没有足够的安全措施来防止政客的声音克隆或选举虚假信息的产生。”

　　其中一些工具——describe、Invideo AI和Veed——要求用户在克隆声音之前上传一个独特的音频样本，以防止人们克隆不属于自己的声音。然而，研究人员发现，通过使用不同的人工智能语音克隆工具生成独特的样本，可以很容易地绕过这一障碍。

　　其中一个工具，Invideo AI，不仅创造了中心要求的虚假陈述，还推断出它们来制造更多的虚假信息。

　　在制作音频片段时，指示拜登的语音克隆警告人们投票站有炸弹威胁，它添加了几个自己的句子。

　　“这不是呼吁放弃民主，而是呼吁确保安全第一，”这段假音频用拜登的声音说。“选举是对我们民主权利的庆祝，只是被推迟，而不是被拒绝。”

　　研究人员发现，总体而言，在安全性方面，Speechify和PlayHT表现最差，在所有40次测试中都产生了可信的假音频。

　　“ElevenLabs”表现最好，是唯一阻止英国和美国政客声音克隆的工具。然而，该报告称，该工具仍然允许用欧盟著名政治家的声音制作假音频。

　　ElevenLabs人工智能安全主管亚历山德拉·佩德拉泽夫斯卡(Aleksandra Pedraszewska)在一份电子邮件声明中表示，该公司欢迎这份报告，以及它引起的对生成式人工智能操作的认识。

　　她说，ElevenLabs认识到还有更多的工作要做，并且正在“不断提高我们的保障能力”，包括公司的屏蔽功能。

　　她说:“我们希望其他音频人工智能平台也能效仿，立即推出类似的措施。”

　　报告中提到的其他公司没有回复记者的置评请求。

　　在此之前，人工智能生成的音频片段已经被用于影响全球各地选举中的选民。

　　2023年秋天，就在斯洛伐克议会选举的前几天，类似自由党领袖声音的音频片段在社交媒体上广泛传播。据称，这些深度造假视频捕捉到了他在谈论提高啤酒价格和操纵投票。

　　今年早些时候，人工智能生成的自动电话模仿了拜登的声音，告诉新罕布什尔州的初选选民呆在家里，把选票“保存”到11月。一位新奥尔良魔术师为一位民主党政治顾问制作了音频，他向美联社展示了他是如何使用ElevenLabs软件制作音频的。

　　专家表示，人工智能生成的音频一直是坏人的首选，部分原因是这项技术进步得太快了。只需要几秒钟的真实音频就可以创造出逼真的赝品。

　　然而，其他形式的人工智能媒体也引起了专家、立法者和科技行业领袖的关注。ChatGPT和其他流行的生成式人工智能工具背后的公司OpenAI周四透露，它发现并中断了五场利用其技术影响公众对政治问题看法的在线活动。

　　反数字仇恨中心的首席执行官艾哈迈德表示，他希望人工智能语音克隆平台能够加强安全措施，并在透明度方面更加积极主动，包括发布他们创建的音频剪辑库，以便在可疑音频在网上传播时进行检查。

　　他还表示，议员们需要采取行动。美国国会尚未通过有关选举中人工智能的立法。虽然欧盟已经通过了一项内容广泛的人工智能法律，将在未来两年内生效，但它并没有专门针对语音克隆工具。

　　“立法者需要努力确保有最低标准，”艾哈迈德说。“虚假信息对我们的选举构成的威胁，不仅可能引发一场轻微的政治事件，还会让人们不信任他们所看到和听到的东西，就这样。”