据已展开刑事调查的当地官员称,初选前在新罕布什尔州大肆播放的假拜登总统自动电话已被追查到一家德克萨斯州的公司。
拜登的欺诈性电话——敦促数以千计的花岗岩州居民不要在总统初选中投票——的来源已被确定为德克萨斯州的生命公司和一个名叫沃尔特·蒙克的人。
这些自动电话播放了一条消息,似乎是人工智能生成的语音克隆了拜登的声音。这条信息说,“重要的是你要把你的选票留到11月的选举中”,“你的选票在11月起作用,而不是这个星期二。”
拜登最终以压倒性优势赢得了民主党的初选,尽管他的名字在一场填字竞选中被删除了。
在假电话发出后,新罕布什尔州总检察长办公室选举法部门与州和联邦合作伙伴合作,对这些电话展开了调查。官方追踪到这些电话是生命公司和蒙克打的。
司法部长约翰·福迈拉说:“确保公众对选举过程的信心至关重要。“用于欺骗选民的人工智能生成的录音有可能对民主选举过程产生破坏性影响。”
福迈拉后来补充说:“在这件事上的伙伴关系和快速行动发出了一个明确的信息,即执法部门、监管机构和行业正在保持警惕,并密切合作,监测和调查人工智能被恶意利用来威胁我们民主进程的任何迹象。”
这些自动电话还非法伪造了来电显示信息,使其看起来像是来自一位前新罕布什尔州民主党主席的号码。该信息指示收件人拨打属于该用户的号码,以便将来不再拨打该用户的电话。
在确定了具体的电话后,选举法组通过一个名为“行业追溯集团”的实体要求“追溯”。这些追踪显示电话的来源是生命公司和蒙克。
追溯进一步确定了许多这些呼叫的原始语音服务提供商是位于德克萨斯州的Lingo Telecom。Lingo Telecom在得知这些电话正在接受调查后,暂停了对Life Corporation的服务。
周二,选举法部门因违反RSA 659:40, III,向Life公司发出了停止令。RSA 659:40, III禁止任何人通过故意试图阻止或阻止他人投票或基于欺诈、欺骗、误导或虚假的理由或信息登记投票,从而从事选民压制。
总检察长办公室正在继续调查潜在的违反选举法、违反消费者保护法和违反电话消费者保护法的行为,同时仍在确定机器人电话的总数。
“选举法组也注意到媒体报道说,录音信息可能是用ElevenLabs的软件制作的。目前,该小组仍在继续调查,无法确认该报道是否准确,”司法部长办公室在一份声明中表示。“最后,司法部长正在继续调查生命公司是否与任何其他人或实体合作或在任何其他人或实体的指导下,目前无法评论是否有其他人或实体参与其中。”