AIは嘘がうまい ― 偽物の声と顔が、真実を揺らす日

前回、私たちは画面の向こうの罠を見た。偽のメール、画面の中の恋人、国境を越える投資の嘘。だましは、インターネットという広い猟場で姿を変えながら広がっていった。けれど、そこにはまだ一つの前提が残っていた。文字や画像はいくらでも偽れても、生身の声や顔は、そう簡単には偽れない――私たちは、長くそう信じてきたのだ。

その最後の前提が、いま揺らいでいる。人工知能は、本物そっくりの声を合成し、本物そっくりの顔を動かせるようになった。電話の向こうの声が、家族のものでないかもしれない。ビデオ会議に映る上司が、上司ではないかもしれない。嘘と真実を分けてきた境界そのものが、ぼやけはじめている。この連載の最終章では、AIがもたらしたこの新しい局面を見つめ、そして、だましの歴史の終わりに、私たちが何を手に持てばよいのかを、静かに考える。

偽物をつくる技術 ― ディープフェイクの登場

ディープフェイクという言葉が広く使われるようになったのは、2017年ごろのことだとされる。深層学習を意味するディープラーニングと、偽物を意味するフェイクを組み合わせたこの言葉は、はじめは映像の中の顔を別人に置き換える技術として知られるようになった。

技術そのものは、必ずしも悪意から生まれたわけではない。映画の制作や、研究、表現の世界で、大きな可能性を開くものでもある。けれど、あらゆる強力な道具がそうであるように、それは悪用される側面も持っていた。公開された動画や音声から、特定の人物の顔と声の特徴を学習させれば、その人が言っていないことを言わせ、していないことをさせる映像を、つくり出せてしまう。本物と見分けることは、年を追うごとに難しくなっていると報じられている。

声を盗まれた日 ― 報じられた二つの事件

この脅威が、もはや空想ではないことを示す出来事が、現実に起きている。

一つは、2019年に報じられた事件である。海外の報道によれば、あるエネルギー関連企業で、親会社の経営者を装ったAI合成の音声による電話を受けた幹部が、指示を信じて多額の送金をしてしまったとされる。電話の声が、聞き慣れた上司のものとあまりに似ていたため、相手を疑う理由がなかったと伝えられている。声というもっとも親しい証拠が、逆に人をだます道具になった、初期の象徴的な事例とされている。

もう一つは、2024年に香港で起きたとされる事件である。報道によれば、ある多国籍企業の従業員が、ビデオ会議に参加した。画面には、本社の最高財務責任者をはじめ、見知った同僚たちが映っていた。けれど、そこに本物の人間は一人もおらず、すべてがディープフェイクで合成された偽の姿だったとされる。従業員はその指示を信じ、巨額の資金を送金してしまったと報じられた。公開されていた映像から顔と声が学習されたのではないか、と見られている。複数の人物を同時に偽装し、リアルタイムのやりとりまで成立させた点で、この事件は大きな衝撃を与えた。

これらの事件が教えるのは、技術の進歩が、人の判断を追い越しはじめているという事実である。私たちの脳は、聞き慣れた声や見慣れた顔を、本能的に信じるようにできている。その本能は、何万年もの間、人と人をつなぐ大切な働きをしてきた。だます者は、いまその本能そのものを標的にしている。疑いようのないものを疑え、と求められる時代に、私たちは入りつつあるのだ。

だましの歴史の果てに ― 見破る目を持つということ

この連載で、私たちは長い旅をしてきた。文献に残る古代の詐術から始まり、黄金をつくると偽った錬金術、群衆を熱狂させたバブル、破綻を約束されたポンジ・スキーム、心を盗む信用詐欺、本物そっくりの偽物、史上最大とされた投資詐欺、電話を使った特殊詐欺、画面の向こうのネット詐欺、そしてAIが嘘をつく時代まで。

これほど形を変え、これほど進化しながら、だましの本質は、驚くほど変わっていなかった。だます者が狙うのは、いつも同じ場所である。人の欲、人の不安、人の孤独、そして、人を信じようとする心。技術は道具にすがない。錬金術の坩堝も、電話も、AIも、すべては人の心のすきまに入り込むための道具だった。だから、だましの歴史とは、技術の歴史であると同時に、人間の心の弱さと強さの歴史でもあったのだ。

だましの歴史に、きれいな結末はない。だます者がいるかぎり、だまされる者もまた、なくなりはしないだろう。新しい技術が現れるたびに、それを悪用する者が現れ、私たちはまた身構えることになる。これは、終わることのないいたちごっこである。安易に、もう大丈夫だと言うことはできない。

けれど、私たちにできることが、一つだけある。それは、見破る目を持とうとし続けることである。だましの歴史を知ることは、人の心のどこが狙われるのかを知ることである。なぜ人は信じてしまうのか、なぜ焦ってしまうのか――その仕組みを知っている人は、同じ罠の前で、ほんの少しだけ立ち止まれる。その一瞬の立ち止まりが、自分を、そして大切な誰かを守るのだ。疑うことは、人を信じないことではない。むしろ、信じるに値するものを、落ち着いて見極めようとすることである。

長く続いたこの旅を、ここまで読み進めてくださった読者のみなさんに、心から感謝する。だます者とだまされる者の物語は、これからも形を変えて続いていくだろう。けれど、その物語を見つめてきたあなたの目は、もう以前と同じではないはずである。どうか、その見破る目を、これからも静かに持ち続けてください。それが、長い詐欺の歴史が、私たちに残してくれた、ささやかで確かな知恵なのであるから。

【詐欺の世界史 ― だます者とだまされる者・完】