AIへの攻撃を検知 東大、画像の誤認防ぐ技術開発

2017.5.12 07:24

 人工知能(AI)が判読する画像を意図的に改変し、誤作動させようとする攻撃を見破る技術を東大のチームが開発した。AIは多様な分野で人間を超える能力を発揮するが、判断の基準に独特の癖がある。この弱点を突く攻撃を防ぐもので、自動運転車の実用化などに役立ちそうだ。

 AIは画像内容の判断基準が人間と異なり、人ではあり得ないミスをする。米グーグルは2014年、パンダの画像を、人間には分からないほどわずかに改変することでテナガザルと誤認させ、高い確率でAIをだませることを示した。

 道路標識を改変し、本来とは違う意味に誤認させることができることも実証されている。ハッカーが自動運転車の判読画像を操作し、事故を起こさせる脅威が現実的になってきた。

 こうした事態を受け、東大の松浦幹太教授らは手書きの洋数字の画像を使い、AIに改変を検知させる方法を研究。改変する場所ごとに効果を評価し、違う数字に変動しやすい画像を選ぶことで、悪意のある改変を80%以上の確率で見破ることに成功した。

 自動運転は衝突防止レーダーを併用したり、人間の判断を合わせたりすれば誤作動に対処できる。しかし、人間が処理できない膨大な情報をAIが瞬時に判断する株式投資などではリスクが高く、攻撃を検知する意義は大きいという。

 松浦教授は「攻撃の特徴をつかむことが肝心だ。実害が出る前に研究しておく必要がある」と警鐘を鳴らしている。

産経デジタルサービス

IGN JAPAN

世界最大級のビデオゲームメディア「IGN」の日本版がついに登場!もっとゲームを楽しめる情報をお届けします。

産経オンライン英会話

90%以上の受講生が継続。ISO認証取得で安心品質のマンツーマン英会話が毎日受講できて月5980円!《体験2回無料》

サイクリスト

ツール・ド・フランスから自転車通勤、ロードバイク試乗記まで、サイクリングのあらゆる楽しみを届けます。

ソナエ

「ソナエ 安心のお墓探し」では、厳選されたお墓情報を紹介! 相続、葬儀、介護などのニュースもお届けします。