AIで偽の声、海外でCEO装い2600万円　「今年以降、日本でも脅威になる」

　「日本でも発生する可能性」

　AI（人工知能）に音声や映像を学習させ、本物そっくりの声や動画を合成する新技術が注目されている。昨年末のNHK紅白歌合戦では故美空ひばりさんの歌声をAIで再現した“新曲”が披露され、話題となったが、一方で技術が悪用される問題も指摘されている。海外では、偽の音声電話で企業が現金をだまし取られる事件も発生。関係者は「日本でも今後起きる可能性がある」と警鐘を鳴らす。（橋本昌宗）

　《あれから　どうしていましたか》

　昨年12月31日。平成元年に亡くなった「昭和の歌姫」の“歌声”が、全国のお茶の間に響き渡った。

　紅白歌合戦に出場した「AI美空ひばり」。記録されている本人の歌声や音声をAIに「ディープラーニング」（深層学習）させた上で秋元康さんが作詞を手がけた新曲「あれから」を覚えさせ、精細な3D等身大ホログラム映像とともに披露した。

　没後30年以上を経て、本人そっくりの声による新曲に「感動した」とする声の一方、「（故人への）冒涜（ぼうとく）だ」などと批判もあった。

　AIが偽動画に悪用されるケースもある。

　近年、ハリウッド女優やアイドルの顔とポルノ動画を合成した偽動画がネット上に出回る。こうした悪質な動画はディープラーニングとフェイク（偽）を掛け合わせた造語で「ディープフェイク」と呼ばれる。中国企業が作成した簡単にディープフェイクを作れるアプリも登場する。

　政治家の動画と掛け合わせれば、言っていないことを発言したような偽動画を作ることも可能。今年11月に大統領選を控える米国では懸念が広がり、一部の州では、選挙関連とポルノ関連の偽動画を法規制する動きも出ているという。

　詐欺の例も確認されている。米紙ウォールストリート・ジャーナルなどは、英国にあるエネルギー関連企業のCEO（最高経営責任者）が昨年3月、ドイツにある親会社のCEOの偽音声による電話で送金を指示され、22万ユーロ（約2600万円）をだまし取られたと報じた。

　同紙などによると、ネット上などで公開されているCEOの声をAIに読み込ませて合成したとみられる。

　こうした詐欺を防ぐためには「指示してきた本人に一度電話などで確認を取った上で送金する」という対策が提示されてきたが、本物そっくりの音声の電話だと、そもそも「詐欺かもしれない」という発想自体が浮かびにくい。

　情報セキュリティー会社「トレンドマイクロ」は、こうしたAIを使ったサイバー犯罪が「今年以降、日本でも脅威になる」として、注意を呼び掛ける。

　担当者は「高額の送金が必要な時は指示を受けた1人だけではなく複数人の決裁が必要になる。デマへの悪用の場合、衝撃的な動画でもすぐうのみにせず、複数の情報源を確認するといった心がけが重要だ」と話した。