生成式AI让骗子行骗更容易：政治选举中深度伪造危害几何？

AI模仿：日益严峻的问题

骗子们向来试图诱使我们交出辛苦赚来的钱和个人信息，而生成式AI让他们的行骗变得更加容易。如今，只需轻点按钮，他们就能创作出与我们本人极为相似的内容，无论是外观还是语气。这种现象被称为AI模仿，且正成为一个日益严峻的问题。

深度伪造的主要目标与选举准备

名人、公众人物和政治家都是深度伪造的主要目标。随着11月可能具有重大影响且充满争议的中期选举临近，我们现在就需要做好准备。

AI生成媒体成常态

得益于OpenAI、谷歌和Meta等科技公司的推动，AI生成或合成媒体已成为新的常态。AI图像和视频生成器能够轻松地创建和编辑内容，无需具备高级的Photoshop技能。AI使得制造更多虚假内容并迅速广泛传播变得轻而易举。Doppel公司的首席战略与体验官鲍比·福特（Bobby Ford）表示，这个问题可以用三个“V”来概括：数量（volume）、速度（velocity）和渠道（vectors）。

“过去，威胁行为者需要花费一定的时间和资源才能制作出深度伪造内容。但现在，同样的时间内，制作速度大幅提升，因此数量（和速度）都增加了。”福特说道。他还表示，像视频、音频和电子邮件等新的传播渠道也成为了AI工具，且变得越来越多模态，“所以我们看到这三个‘V’都在增加。”

合成媒体的目的与影响

不过，合成媒体的目的并非总是完美地模仿政治家或公众人物。它常常被用来让我们相信虚假内容是真实的，从而操纵我们的情绪，使我们做出不理智的判断。这种影响我们信念的能力在政治领域尤为重要。

AI渗透政治领域的案例

在2024年总统初选期间，新罕布什尔州的数千名选民意外收到了乔·拜登（Joe Biden）的自动语音电话，敦促他们在选举前一晚不要投票。然而，这并非真正的拜登，而是AI深度伪造的内容，选民们很难分辨真假。拜登竞选团队试图告知民众这是假消息，但损害已经造成。

非营利组织“捍卫数字竞选”（Defending Digital Campaigns）的总裁兼首席执行官迈克尔·凯泽（Michael Kaiser）表示：“政治竞选活动可能没有网络安全工具，但他们也在使用与恶意行为者相同的平台来接触同一群人。这使得在这种环境中开展活动变得极其困难。”

其目的是在选举期间及之后削弱信任、制造混乱。7月，参议员米奇·麦康奈尔（Mitch McConnell）的办公室发布了一张他近期住院期间的照片。社交媒体用户立即开始质疑照片的真实性。许多人猜测这张照片要么是旧照，要么是用AI工具编辑过的。数字取证专家并未发现照片是旧照或经过数字修改的证据。但在如今这个时代，我们的第一反应往往就是怀疑。

恶意行为者的便捷与策略

“如果这张照片是两年前发布的，我可能需要花上七八个小时来修改它。”福特说，“但现在，有了生成式AI，我只需要复制照片，将其导入应用程序，输入一些简单的指令，30秒内就能得到10个不同版本的同一张照片，然后我就可以把这10个不同版本发给我的朋友们。”

正是这种速度和便捷性，让恶意行为者能够在互联网和我们的手机上大量传播垃圾或诈骗内容。不过，尽管技术是新的，但他们使用的策略却并不新鲜。他们会故意让信息显得十分紧急，让你来不及思考就做出回应。例如，如果你在选举日前收到一条短信，告知你的投票地点已更改，你可能会不假思索地点击恶意链接，而不会停下来质疑其真实性。

“这种媒体的目的就是操纵你的情绪。”凯泽说。

应对方法与思考

所以，最好的应对方法之一就是冷静下来，退后一步，在做出任何鲁莽的举动之前先思考一下，并问问自己为什么会收到这条信息。但有时候，说起来容易做起来难。

“现在，我不需要对（目标人群）进行大量研究就能对他们进行精准攻击。”福特说，“我可以使用某个应用程序，根据它从开源情报中收集到的关于你的信息，撰写一封电子邮件或生成一段合成语音——这就是区别。”