ディープフェイクが騒動になっている。ディープフェイクとは、人工知能（AI）によって、動画で人の顔などを他人に変えてしまうことができる技術のことだ。ディープフェイクには、顔を完全に入れ替えてしまうものや、自在に他人の口や顔の表情を操作してしまうもの、声と発言内容を変えてしまうものなど、いくつもの種類がある。（山田敏弘，ITmedia）
そして、そのクオリティーを見ると、まるで本人と見間違うほど自然な動画を作ることができる。しかも、ディープフェイクを作れるアプリまであるため、映像編集などの知識や能力がなくても作れてしまうのだ。
そんなディープフェイクが最初に登場したのは、2017年12月のこと。それ以来、いろいろと物議を醸してきた技術だが、最近さらに大きな問題に発展している。
まだ日本では本格的に広がっていないが、欧米では規制も始まっている。世界で今、ディープフェイクを巡って何が起きているのか。
クオリティーが高まっていく悪質動画
ディープフェイクが17年末に初めて登場した際も、直ちに問題視された。その理由は、この技術がアダルト映像に使われたからだ。
もともとは米サイトのレディット（Reddit）に投稿された、米ハリウッド女優のアダルト映像だった。映画『ハリー・ポッター』シリーズで知られる女優のエマ・ワトソンやスカーレット・ヨハンソン、米歌手のケイティ・ペリーやテイラー・スウィフトなどが、アダルト映像に出演しているかのような動画が作られたのである。つまり、有名人である彼女らの顔がポルノ女優の体に合成されていた。映画『ワンダーウーマン』のガル・ガドットは義理の兄と性行為をしているという偽動画が作られていた。
こうした動画の存在が知られると、あっという間に拡散された。動画を公開した匿名の人物が「Deepfakes」という名前を使っていたことから、こうした映像は「ディープフェイク」と呼ばれるようになった。
ディープフェイクはさまざまな問題を抱えている。名誉毀損、肖像権や著作権の侵害などを問題視したレディットは、ディープフェイクの投稿を直ちに禁止にした。さらに、ディープフェイクの動画がアップされた米大手ポルノサイトやTwitterでも禁止になっている。
ディープフェイクはその後、技術の改善が続けられ、さらにクオリティーの高い動画を作ることができるようになっていった。エンタメの分野でも、個人がこの技術を使って動画を作り、メディアに取り上げられることも多々あった。人気ホラー映画『シャイニング』に登場する主役、ジャック・ニコルソンの顔を、有名俳優のニコラス・ケイジに入れ替えた動画が話題になったこともある。
また、米国のバラク・オバマ前大統領がホワイトハウスとおぼしき部屋で座ってスピーチをしている映像が公開されたが、実はその表情と口元は、あるコメディアンの顔の動きと同じになるように、AIで顔が操作されていた。本物のオバマが決して言わないような暴言すら吐いていたが、これはコメディアンがオバマの顔を使って述べたものだったとして話題になった。
ザッカーバーグに「語らせた」
こうして話題を振りまいてきたディープフェイクは最近、さらに冗談では済まないような次元になってきている。
まず英国のアーティストであるビル・ポスターが6月、Facebookのマーク・ザッカーバーグCEOのディープフェイクを公開した。イベント用につくったビデオだったようだが、ザッカーバーグの表情や口元をAIで自在に操作し、ディープフェイクのザッカーバーグに普通なら決して話さないような言葉を「語らせた」のである。「私たちはみんなをつなげたいのではない。みんなのデータを使ってあなたの動きを知りたい」といった具合だ。
これが大きな話題になった。ディープフェイクの技術力だけでなく、その「偽物ビデオ」がもたらす脅威も議論された。
また米国でもディープフェイクが物議を醸した。5月23日、米連邦議会のナンシー・ペロシ下院議長がスピーチする映像が、ディープフェイクで改ざんされ、あたかも酔っぱらっているかのように見えるビデオとなり、SNSで拡散された。その偽物ビデオはすぐに250万回も再生され、大きな注目を浴びた（ちなみに、このビデオはちょっとした改変だったために「チープフェイク」と呼ばれている）。
このニュースを重く見た米下院情報委員会は、FacebookやGoogle（YouTube）、Twitterなど大手ソーシャルメディア企業に対して、それぞれの企業がこのディープフェイクにどう対処するのかを報告するよう求めた。この動きは、20年の大統領選を視野に入れたもので、前回の大統領選でフェイクニュースが有権者の投票行動に作用したと批判されたことが背景にある。
ディープフェイクが及ぼす悪影響
これらディープフェイクが蔓延（まんえん）すると、私たちにはどんな影響があるのか。大きく見ると、3つの懸念が挙げられる。
まずは「民主主義への脅威」である。ディープフェイクでフェイクニュースを作り出し、大統領選などへ介入することもできなくはない。これまでのフェイクニュースよりも巧妙になる可能性があり、特に、こうした技術が世界で使われるようになっているという事実を知らない人なら、偽動画を本物であると信じやすくなるだろう。
2つ目は、国際情勢への影響だ。例えば、ドナルド・トランプ大統領がディープフェイクに使われ、「今、イランに向けて何発もの核兵器を発射した。30分後には現地を破壊する」と偽の発言をしたらどうなるのか。または、「北朝鮮への攻撃を20分以内に実施する」と発言したら？ 北朝鮮の金正恩委員長はTwitterをチェックしているようなので、パニックになったら何をしでかすか分からない。
そして最後は、犯罪行為だ。経済犯罪なら、民間企業のCEOを使って「このままいけば収益は昨年の10倍になる」などと語る偽映像が拡散されたら、株価にも大きな影響を与えるだろう。発言前に株を買っておけば大もうけできる。
また犯罪なら、リベンジ・ポルノも考えられる。ハリウッド女優たちが犠牲になったように、一般人だって、アダルト動画に顔を使われてしまう可能性がある。ただ、この犯罪行為の可能性は、ディープフェイクが出始めたころから懸念されていたために、対策が急がれた。例えば6月には、米バージニア州が、14年に施行されたリベンジ・ポルノを禁止する法律を改正し、ディープフェイクも禁止にすることを決めた。ディープフェイクをリベンジ・ポルノに使ったら、最大12カ月の禁固刑または最大2500ドルの罰金になる。この動きは、他の州にも広がっていくとみられている。
こうした議論がメディアを騒がせるなか、ディープフェイクを巡り、さらに深刻な事態が起きていることが明らかになった。
企業が被害に遭っている「上司なりすまし音声」
7月8日、英公共放送BBCが、ディープフェイクを使ったある犯罪が起きていると報じている。冒頭でディープフェイクにはいくつか種類があると書いたが、ここで言う「犯罪」は、映像ではなく、音声をAIで作り出すものだという。要は、ディープフェイク音声である。
どういう犯罪かというと、YouTubeやTedトーク、講演会などで得られる企業のCEOの声を拾って、数多くの単語などをバラバラに集めてAIに学習させ、本物のCEOの声のようなディープフェイク音声を作り出す。そして、部下の幹部などに電話をして、緊急で送金をするよう要求する。つまり、ネット上などですでに公開されている上司の声をAIで再現して、その声音で部下に命令を下す、という手口である。
最初にこの犯罪行為を報告したのは、米セキュリティ企業シマンテックだった。現時点では企業名は伏せられているが、BBCもシマンテックの報告をもとにディープフェイク犯罪を報じた。しかも、すでに3社の企業が被害に遭っているという。
こうした犯罪はおそらく、そう遠くない未来に日本にも入ってくるはずだ。個人や有名人だけでなく、一般企業も、今のうちからこうしたディープフェイクをめぐる国外の動きは把握しておいたほうがよさそうだ。被害が出てからでは遅いのだから。