AIスピーカー“乗っ取り”可能 早大で実験、対策の必要主張

「パラメトリック・スピーカー」の超音波で、AIスピーカー(手前)を操作する様子を再現する男性
「パラメトリック・スピーカー」の超音波で、AIスピーカー(手前)を操作する様子を再現する男性【拡大】

 音声でさまざまな指示を出せる「人工知能(AI)スピーカー」に対して、音声を超音波に変換する「パラメトリック・スピーカー」と呼ばれる機器を使って命令を出すと、最大10メートル離れた場所から第三者が操作できる可能性があることが29日までに早稲田大の森達哉准教授(情報セキュリティー工学)らの実験で分かった。

 AIスピーカーには利用者の声を聞き分ける機種もあるが、コンピューターで他人の声を再現する「音声合成技術」を使えば突破可能とみている。AIスピーカーの技術は今後、家電や自動車にも搭載されるため、乗っ取られれば事故といった事態につながる恐れもあるという。

 森准教授によると、パラメトリック・スピーカーは、超音波を利用することで音声を限られた場所に飛ばせるように設計されている。これを使って離れた場所からAIスピーカーに指示をすると、周りにいる人には聞こえないまま操作できる。利用者が意図しない操作をされたり、盗聴に使われたりする恐れがあるという。

 AIスピーカーのうち、米グーグルの「グーグルホーム」を使い、声を登録した学生が音響室で実験したところ、3.5メートル離れた場所から他人に気付かれずに100%操作できた。研究室内では最大10メートルの距離から命令を送れた。LINE(ライン)の「クローバフレンズ」も遠隔操作が可能だった。森准教授は「他社製のスピーカーも同じだろう」と推測した上で「超音波の検出装置を搭載し、超音波が混じった音声が届いた場合は操作ができないような対策を取ることが有効だ」と話した。

 グーグルの日本法人は「コメントできない」としている。LINEの担当者は「(ソフトウエアの更新で)話者認識機能を付けるなどセキュリティーを強化する予定だ」と話している。