広瀬茂男氏「開発には歯止め必要」
－－ＬＡＷＳの開発に反対する国際的な公開書簡に２０１７年、唯一の日本人として署名した
「ＡＩの開発がこのまま進んだら、非常に危ないと考えた。個人を認識する能力などが上がり、かなり知的な判断ができるようになってきた。なかでもＬＡＷＳは正確な攻撃で大きな被害を与えるだけでなく、味方の損失を避けられるため戦争へのハードルを下げかねない」
－－ＡＩは近年、急速に開発が進んでおり、もはや私たちの暮らしに欠かせない
「確かにＡＩは現代社会のキーテクノロジーで、もっと可能性を追求すべきだが、悪用も簡単だ。例えば自動車の自動運転で、安全のために人や障害物を避けるのではなく、逆にぶつけるようにソフトウエアを書き換えればテロに利用できる。ビッグデータをうまく使えば民族を見分けることも可能となり、特定の民族だけを攻撃できる。これはもはやＳＦの世界ではないと感じる。しかもＬＡＷＳをはじめとしたＡＩのプログラムは一度作るといくらでもコピーでき、容易に拡散してしまう」
－－ＬＡＷＳは特定通常兵器使用禁止制限条約（ＣＣＷ）の締約国会議で開発規制に向けた初の指針がまとまった
「人間を関与させる方向で指針をまとめた点は評価できる。でも、規制はとても難しい。今の機械はみんな簡単にＡＩを組み込んでしまうのに、どうやって規制すればよいのか。ＡＩはソフトウエアの世界で、銃や地雷のようにはっきりとした姿がない。この点がＡＩの怖いところでもある」
－－指針には法的拘束力がなく、今後も国際社会は規制の在り方を議論していく
「実効性があるかどうかは別としても、ＬＡＷＳの開発を規制しないわけにはいかないだろう。常識的な国家であれば規制にはそれなりの効果がある。また、変な国やテロリストなどが使い出したら非常に危ないが、何も規制する動きがないと制裁を加える根拠も無くなり、それこそ開発に歯止めが利かなくなる。ＡＩの危険性を常にはっきりさせ、何とかしようと考え続けていく以外にないのではないか」
－－日本は完全自律型のＬＡＷＳを開発しない方針だ
「それで良いと思うが、最先端の技術を使わないと防衛にならない。相手がＬＡＷＳを含め、ＡＩでいかに攻撃してくるかを考えて準備することは、絶対にすべきだと思う。何をしてくるか分からない相手に対し、『こちらが何もしなければ、攻めてこない』などということは、あり得ないのだから」
ひろせ・しげお 昭和２２年、東京都生まれ。東京工業大大学院理工学研究科博士課程修了。同大教授などを経て平成２５年から現職。ロボット工学の専門家として世界的に知られ、ベンチャー企業の会長も務める。
【記者の目】「自衛隊もＡＩの積極活用を」
武装した無人機が自らの判断で人間を殺傷するＬＡＷＳは、近年急速に進化するＡＩが持つ負の側面だ。ターゲットの排除を冷徹に実行するドローンやロボットに襲われた場合、生身の人間はどこまで耐えられるだろうか。
まだ姿を見せていないＬＡＷＳを規制する国際的な動きは、この漠然とした不安から始まり、一定の成果を見せている。日本政府も開発しないという。
だが、国同士の関係もＬＡＷＳと同様に冷徹だ。規制の議論と並行し、ＡＩの軍事利用は着実に進んでおり、特に中国が甚だしい。
２年前に欧米の囲碁ＡＩ「アルファ碁」がトップ棋士に勝ち、世界を驚かせた。この図式は、ＡＩで武装した人民解放軍と人間主体の自衛隊に置き換えられる。かつて米軍の新型爆撃機Ｂ２９に竹やりで挑もうとした愚を繰り返さぬよう、自衛隊もＡＩを積極的に活用することが、日本の守りにつながるはずだ。（小野晋史）