这篇文章是科技朋友通讯的预览。在这里注册,每周二和周五在你的收件箱里收到它。
在过去一周左右的时间里,玩人工智能软件的人吐出了唐纳德·特朗普(Donald Trump)被捕和教皇方济各(Pope Francis)穿着一件闪闪发光的蓬松外套趾高气扬的假照片。
人工智能生成的图像描绘了法国总统埃马纽埃尔·马克龙陷入骚乱的情景。
由人工智能推动的技术正在帮助人们生成虚假图像、视频和音频,这些图像、视频和音频越来越难以与现实区分开来。
我有五条线索,你可以寻找识别人工智能生成的图像,包括将注意力集中在手、背景图像和通常看起来不太正确的无生命物体上。
每当技术出现进步,我们都需要学会应对新的挑战。自学人工智能侦探的技能给了我们力量。对特朗普赝品的怀疑表明,我们不是人工智能的傻瓜。(曼哈顿的一个大陪审团周四投票决定起诉特朗普。)
但我要告诉你真相:写这篇通讯让我感到不安。我不想夸大你对人工智能假货的恐惧,这本身就有风险。专注于人工智能取证也可能会分散我们对假货诱人的更深层次原因的注意力。
我们有15年的社交媒体历史,以及几个世纪的阴谋论,这些都表明,“证据”的复杂性并不是让虚假信息可信的原因。当我们想要相信假货所呈现的现实时,我们就会上当受骗。
1. 看那双手。人工智能软件曾经生成过手指过多或其他奇怪的人手。这项技术现在开始让人难以驾驭,但仍经常出现故障。
例如,在方济各教皇的假照片中,他的右手看起来被压扁了,他手里拿着的似乎是外卖咖啡杯。粗略地看一下,你就会发现这些细节看起来不太对。
2. 无生命的物体可能是错误的:包括来自Midjourney的人工智能软件——它被用来创建臃肿的波普外套和假的特朗普逮捕图像——可以生成违背现实的物体。
要发现这一点,请关注图像中的物品,如眼镜、栅栏或自行车。
一些眼尖的人注意到,在教皇方济各的假像中,他脖子上传统的胸前十字架只有一根带子。
电脑生成的人可能少了一只耳环,或者眼镜的耳机不匹配。这些缺陷在前几代AI图像软件中更为明显,但这些扭曲仍然会出现。
机器对人工智能来说也很棘手。记者卢克·贝利(Luke Bailey)在推特上发布了人工智能制造的独轮车的图片,这些图片荒谬得可笑。
3.是否有乱码?如果你想知道一幅图像是否是由人工智能制作的,那就看看街道标志或广告牌等物体上的文字。
贝利还展示了一张人工智能生成的哈里王子抓着一袋麦当劳食品的图像。这家连锁餐厅的标志看起来很逼真,但包上的文字是乱码。
4. 扫描背景。人工智能生成的图像可能有模糊或扭曲的细节,特别是在背景中。
在其中一张特朗普的假照片中,执法人员的脸看起来模糊或畸形。在另一篇文章中,人工智能生成的假警察的眼睛似乎看错了方向。
5. 这些图像是否过于光滑或具有艺术性?一些人工智能生成的真人图像看起来非常风格化,或者描绘的人的脸看起来像塑料。
操纵或人工生成媒体专家亨利·阿吉德(Henry Ajder)说,人工智能生成的教皇方济各的脸有一种“美学光泽”。“人工智能软件让它们变得太光滑了,让它们看起来太闪亮了。”
随着人工智能技术的进步,你将更难发现人工智能生成的人或篡改过的图像。Ajder警告说,这些识别人工智能图像的线索可能很快就会过时。“几周内,这些缺陷就可以从这些模型中训练出来,”他说。
虚假图片并不新鲜。例如,十多年来,在飓风或其他风暴期间,一张被认为是鲨鱼在被洪水淹没的城市街道上游泳的假图片反复流传。
但可怕的是,人工智能软件让几乎所有人都能在几分钟内制作出令人信服的图像。
我们面临的挑战是,对待人工智能假货的风险时,既不能过于担心,也不能过于担心,以至于造成一种自我实现的恐慌。
研究人员谈到了一种被称为“说谎者红利”的现象:我们越相信自己的所见所闻是假的,我们就越有可能不相信任何事物的真实性。这种奥威尔式的不信任正是威权政府所钟爱的。你和我必须抵制这一点。
同样重要的是,要认识到假货和骗局永远是我们生活的一部分。它们在一定程度上反映了我们对彼此的不信任和恐惧。
我也上过假货的当。在2020年冠状病毒爆发的早期,我看到一条疯传的推文,上面有一张汤姆·汉克斯(Tom Hanks)和威尔逊(Wilson)躲在病房里的照片,威尔逊是他《荒岛余生》(Cast Away)电影中的排球。
这张照片是从澳大利亚一家讽刺性新闻刊物上ps出来的假照片,但我想都没想就转发了。我很害怕大流行,这一刻的轻松感觉就像一种解脱。我希望这是真的。
布朗大学(Brown University)信息未来实验室(Information Futures Lab)的联合创始人克莱尔·沃德尔(Claire Wardle)告诉我,她感到鼓舞的是,似乎只有相对较少的人相信人工智能生成的特朗普图像是真实的。
她说,这表明我们许多人已经学会了辨别我们在网上看到的东西,并寻找/确认。沃德尔说,她在推特上看到有人评论说,如果特朗普被捕的照片是真的,这些信息就会发布在传统的新闻网站上。
沃德尔说:“我们很容易走上末日之路,但实际上我认为我们比自己认为的更聪明。”
帮助台读者最头疼的事情之一就是脸书账户被黑客占领。
而Facebook在简化账户恢复方面做得很糟糕。我的同事希瑟·凯利(Heather Kelly)对如何在第一时间避免Facebook账户被占用提出了建议。
如果你只做一件事,那就启用双重身份验证——除了密码之外,还需要一个密码来访问你的Facebook账户。这样做:
点击右上角三条线(Android应用)或右下角三条线(iPhone应用)→向下滚动到设置和隐私→设置→屏幕顶部的meta Accounts Center→密码和安全→双因素认证→点击“编辑”,输入你的Facebook密码。
您将看到三个选项可供选择。大多数人应该选择以下两种:
短信(SMS):当你登录Facebook时,输入密码后,Facebook会给你的手机发送一个号码,你必须在网站或Facebook应用中输入这个号码。
认证应用程序:这类似于文本选项,但你将打开第三方应用程序来获得数字代码而不是消息。我们推荐Twilio的Authy或谷歌Authenticator (iOS, Android)。
你是不是厌倦了我推荐的双因素认证?太糟糕了。我会一直这样做,直到我们整个愚蠢的密码系统化为灰烬。
推荐阅读:
不要在Facebook上被黑客攻击。现在就做这6件事。
你被告知的一切关于密码是一个谎言