纽约市市长埃里克·亚当斯(Eric Adams)一直在使用人工智能拨打机器人电话，这些电话将他自己的声音扭曲成几种他实际上不会说的语言，这给政府使用这项快速发展的技术提出了新的道德问题。

　　周一，市长向记者透露了这些自动电话，并表示他们已经用普通话和意第绪语等语言发出，以促进城市招聘活动。他们没有透露他只会说英语，也没有透露这些电话是用人工智能生成的。

　　“人们总是在街上拦住我说，‘我不知道你会说普通话，你知道吗?’”民主党人亚当斯说。“我们正在使用的自动电话，我们使用不同的语言，直接与多样化的纽约人交谈。”

　　这些呼吁发出之际，监管机构正在努力掌握如何在道德上和法律上最好地驾驭人工智能的使用，在人工智能中，深度伪造的视频或音频可以让任何人在任何地方都看起来在做电脑屏幕另一边的人想让他们做的事情。

　　在纽约，监督组织监视技术监督项目抨击亚当斯的机器人电话是对人工智能的不道德使用，误导了城市居民。

　　该组织的执行董事阿尔伯特·福克斯·卡恩(Albert Fox Cahn)说:“市长在伪装自己。”“这是非常不道德的，尤其是用纳税人的钱。利用人工智能让纽约人相信他会说他不会说的语言，这完全是奥威尔式的。是的，我们需要用所有纽约人的母语发布公告，但这种深度造假只是一个令人毛骨悚然的面子工程。”

　　越来越多地使用人工智能和深度造假，尤其是在政治和选举虚假信息方面，已经引发了政府和主要媒体公司加强监管的呼吁和行动。

　　谷歌是第一家表示将对人工智能生成的欺骗性政治广告贴上新标签的大型科技公司，这些广告可能会伪造候选人的声音或行为，以制造选举错误信息。Facebook和Instagram的母公司meta没有针对人工智能生成的政治广告的特定规则，但有一项限制用于虚假信息的“伪造、操纵或转换”音频和图像的政策。

　　美国参议院的一项两党法案将禁止与联邦候选人有关的“实质性欺骗性”深度造假，但恶搞和讽刺除外。本月，两名民主党国会议员致信meta和X(正式名称为Twitter)的负责人，表达了对其社交媒体平台上人工智能生成的政治广告的担忧。

　　最近几周，许多科技公司都展示了人工智能工具，这些工具可以用另一种语言合成一个人的讲话，让人听起来像是在用另一种语言说话。

　　今年9月，音乐流媒体服务Spotify推出了一项人工智能功能，可以用播客的声音将播客翻译成多种语言。最近，创业公司ElevenLabs在10月份推出了一款语音翻译工具，据称该工具“可以在几分钟内将语音内容转换为另一种语言，同时保留原始说话者的声音。”

　　亚当斯为自己辩护，反对有关他使用人工智能的道德问题，他说，他的办公室正试图通过他们所说的语言来接触纽约人。

　　“我有一件事要做:我必须管理这座城市，我必须能够用人们能理解的语言与他们交谈，我很乐意这样做，”他说。“所以，对所有人，我能说的就是‘你好’。”