人工知能が差別的発言学習　米ＭＳ、「Ｔａｙ」の公開停止

　米マイクロソフトは２４日、新たな人工知能（ＡＩ）チャットボット「Ｔａｙ（テイ）」のインターネットでの公開を停止したと発表した。一部のツイッター利用者がＴａｙを悪用し、人種差別的および性差別的な発言を行うよう教え込んだためだ。

　同社は、ツイッターなどのメッセージプラットホームで人間とやりとりできるＴａｙを今週公開した。Ｔａｙはコメントを模倣したり、全てのやりとりを基に自身の回答や発言を生み出したりすることで学習する。本来は典型的なミレニアル世代（１９８０～２０００年生まれ）の話し言葉をまねることが目的だった。

　ツイッターの利用者は一日もたたないうちに、Ｔａｙが自らの発言内容を理解しておらず、どんな話題についてもタブーとされる不適切な発言をさせることが容易であると気がついた。利用者らはＴａｙにホロコースト（ユダヤ人大量虐殺）の事実を否定させ、大虐殺やリンチを呼びかけさせたほか、フェミニズムをがんに例えたり、ヒトラーを礼賛したりするよう教え込んだ。

　マイクロソフトは声明で「不運なことに、公開から２４時間以内に一部の利用者がＴａｙのコメント能力を悪用して不適切な受け答えをさせたことが分かった。その結果、当社はＴａｙの公開を停止し、修正を行っている」と説明した。

　ツイッター利用者の中にはマイクロソフトが手動で利用者とのやりとりを禁止したと考える向きもあるほか、Ｔａｙがホロコーストのような特定の話題を議論することを防ぐフィルターを開発しなかったのか、同社の姿勢を疑問視する声も上がっている。（ブルームバーグ　Ｊｉｎｇ　Ｃａｏ）