AIの性能保証は原理上、事前にできない
AIはスマホアプリと同様、単なるプログラムに過ぎない、と先ほど言いました。ただ、すべてが同じわけではありません。アプリケーションは、「このボタンを押したら、こう動く」という入力と出力の関係をきっちりと定義して開発することができます。
しかし、現在主流の機械学習型のAIは、入力と出力の関係を厳密に定義できません。専門的な説明は省きますが、データを分析しながら、どんなデータをどんな形式で学習させれば良いのか、パラメータはどう設定すれば良いのか、そしてどんなモデルを用いれば良いのか等を探りながら、出力の精度を極限まで上げていく開発スタイルです。事前に定められた要件に沿って開発するのがアプリケーションなら、探索的に作っていくのがAIと言えます。
AIは、実際に開発してみるまで、どのくらいの性能になるのかわからないものであり、継続して運用し、新たなデータを学習させていくことで性能が向上していくものです。言い換えると、アプリケーションは完成した時が最も価値が高く、運用していくことで周りの状況が変化したりテクノロジーが進化して相対的に価値が減衰したりしていくのに対し、AIは完成タイミングが最も価値が低く、運用を通して、その時々に最も適した答えを出力するようになっていくのです。AI開発者が、よく「AIを育てる」という言い方をするのは、ここに理由があります。
だから、AIベンダーはクライアントに対しては事前に、「AIなら貴社のために、こういうことをここまでの精度で提供できますよ」と言い切ることは原理上できません。しかし、クライアントの知識不足につけこんで、甘い言葉をささやくAIベンダーも残念ながら少なからず存在します。
「こんなことまでできちゃいます」と風呂敷を広げるだけ広げられ、夢を描いて契約する。結果、プロジェクトは頓挫する。納品物も開発ノウハウも手に入らない。しかし、開発費は支払えと言われる。そういう被害に遭っている企業が本当にいらっしゃるのです。実際、私たちも「ベンダーに騙された」という相談を受けたことがあります。
騙されないためのガイドライン
これでは「AI＝胡散臭いもの」という間違ったイメージが広まってしまいます。企業が外注に慎重になり、信頼できるAIベンダーまで立ち行かなくなってしまうかもしれません。そんなことが続けば、日本という国全体がAI開発で世界に遅れを取り、競争力が落ちてしまいます。
こうした背景もあって、経済産業省は、2018年6月に「AI・データの利用に関する契約ガイドライン」を策定しました。現在はビジネスの実情に合わせて内容をアップデートした「1.1版」が公開されています。
このガイドラインにも「未知のデータに対する性能保証は原理的に困難」と明記されていますので、この連載の読者の皆様には、ぜひここをしっかりご理解いただきたいと思います。
また、「AI開発の特性をユーザーとベンダーが理解すること」と繰り返し強調されていることも見逃してはなりません。AIとはどういうもので、どんなことができるのか。AI開発の基本的な流れはどういったもので、注視すべきポイントはどこか。AIを開発できるほどの知識や技術はなくても、今回述べたような最低限の「AIリテラシー」を身に付けておくことが、AI開発のプロジェクトを成功させるためには欠かせないのです。
※1：Tencent Research Institute, BOSS「2017グローバル人工 知能人材白書」
※2：経済産業省「ITベンチャー等によるイノベーション促進の ための人材育成・確保モデル事業」
【仕事で使えるAIリテラシー】は、AI開発、AI人材の育成・採用を手がけるSIGNATEのデータサイエンティスト・高田朋貴さんが、ビジネスパーソンとしてAIを正しく理解し、活用する方法を解説します。アーカイブはこちら