AI很会撒谎 ― 伪造的声音与面容动摇真实的那天

上一话，我们看到了屏幕背后的陷阱。虚假的邮件、屏幕之中的恋人、跨越国境的投资谎言。欺骗，在互联网这片广阔的猎场中，一边变换样貌一边蔓延。然而，那里还残留着一个前提。文字与图像怎样都能伪造，可活生生的声音与面容，却没那么容易伪造——长久以来，我们一直如此相信。

而那最后的前提，如今正在动摇。人工智能，已能合成与真品一模一样的声音，能驱动与真品一模一样的面容。电话那头的声音，也许不是家人的。视频会议里映出的上司，也许并非上司。曾经分隔谎言与真实的边界本身，开始变得模糊。在本连载的最终章里，我们要审视AI带来的这一新局面，并在欺骗的历史的尽头，静静思考：我们究竟该把什么握在手中。

制造伪物的技术 ― 深度伪造的登场

「深度伪造」这个词被广泛使用，据说是在2017年前后。把意为深层学习的deep learning，与意为伪物的fake组合起来的这个词，起初是作为把影像中的面孔替换成他人的技术而为人所知的。

技术本身，未必是从恶意中诞生的。在电影制作、研究、表达的世界里，它也是开启巨大可能性之物。可是，正如一切强大的工具那样，它也带有被滥用的一面。从公开的视频和音频中，让它学习特定人物面孔与声音的特征，便能制造出让那人说出未曾说过的话、做出未曾做过之事的影像。据报道，与真品加以分辨，正一年比一年更难。

声音被盗的那天 ― 被报道的两起事件

显示这一威胁已不再是空想的事件，现实中已经发生。

其一，是2019年被报道的事件。据海外报道，某能源相关企业的一名高管，接到了一通伪装成母公司经营者的AI合成语音电话，相信了指示，据说汇出了巨额款项。据传，电话里的声音与听惯了的上司太过相似，以致没有怀疑对方的理由。这被视为一个早期的、象征性的事例——声音这一最为亲切的证据，反过来成了欺骗人的工具。

其二，是据说于2024年在香港发生的事件。据报道，某跨国企业的一名员工，参加了一场视频会议。画面上，映着包括总部首席财务官在内的、熟识的同事们。然而，那里没有一个真正的人，据说一切都是用深度伪造合成出来的虚假身影。该员工相信了那指示，据报道汇出了巨额资金。一般认为，面孔与声音可能是从公开的影像中被学习而来的。在同时伪造多个人物、甚至让实时的往来交流得以成立这一点上，这起事件带来了巨大的冲击。

这些事件所教给我们的，是技术的进步已开始超越人的判断这一事实。我们的大脑，被造就成会本能地相信听惯的声音与看惯的面孔。那本能，在数万年间，做着连接人与人的重要工作。行骗者，如今正以那本能本身为标靶。我们，正进入一个被要求去怀疑那本不容怀疑之物的时代。

在欺骗的历史尽头 ― 拥有识破之眼

在这一连载里，我们走过了一段漫长的旅程。从留存于文献的古代骗术开始，历经佯称能造黄金的炼金术、让群众狂热的泡沫、注定破产的庞氏骗局、偷心的信用诈骗、与真品一模一样的伪物、号称史上最大的投资诈骗、利用电话的特殊诈骗、屏幕背后的网络诈骗，直到AI撒谎的时代。

如此变换形态、如此进化至此，欺骗的本质，却惊人地未曾改变。行骗者所瞄准的，始终是同一个地方。人的贪欲、人的不安、人的孤独，以及试图相信他人的心。技术不过是工具。炼金术的坩埚、电话、AI，全都是为了钻入人心缝隙的工具。所以，欺骗的历史，在身为技术的历史的同时，也是人心之脆弱与坚强的历史。

欺骗的历史，没有干净利落的结局。只要还有行骗者，受骗者，恐怕也永不会消失。每当新的技术出现，滥用它的人便会出现，我们便又一次严阵以待。这是一场永无止境的猫鼠游戏。我们无法轻率地说，已经没事了。

然而，有一件事是我们能做到的。那就是，不断地试图去拥有一双识破之眼。了解欺骗的历史，便是了解人心的何处会被瞄准。知晓其机制的人——知道人为何会相信、为何会焦躁的人——在同样的陷阱面前，能够稍稍驻足片刻。那一瞬间的驻足，守护着自己，也守护着重要的某个人。怀疑，并不是不相信人。毋宁说，是冷静地试图去辨明何为值得相信之物。

对于一路读到此处的各位读者，我致以由衷的感谢。行骗者与受骗者的故事，今后想必仍会变换形态地延续下去。但是，注视着那故事的你的双眼，应该已不再与从前相同了。愿你今后也静静地，继续持有那双识破之眼。因为那，正是漫长的诈骗史，留给我们的、微小而确切的智慧。

【诈骗的世界史：行骗者与受骗者 · 完】