先端軍事技術の米DARPAと共同研究、「説明できるＡＩ」の今を語る
「ＤＡＲＰＡから、自律飛行ロボット（ドローン）による捜索や救難の任務について二つの課題を出された。一つは『ドローンがなぜこのアクションを起こしたか』の説明、もう一つは任務に成功するかどうかの予測。ＡＩの判断がもたらした結果から、モデルの中で何が起こったのかを、開発中の『ＸＡＩシステム』で説明する。現在、捜索・救難の任務についてシンプルな説明ができるところまで研究が進んだ」
―ＸＡＩシステムはどのようなものですか。
「ＡＩの判断に影響する多くのパラメーター（変数）と人が理解できる概念との間をマッピングし、つなぐことがアイデアの基本だ。コンピューターが理解できるように概念を記述する仕様『オントロジー』に基づき、ドローンや医療などの分野で使う用語を『共通領域』として定義した。ＸＡＩシステムは、この共通領域を使うことで、機械学習モデルの中で起きたことを人の言葉で説明する」
―具体的に、ドローンの任務などはどう説明できますか。
「例えば『離陸』には、滑走路を走行し、飛行高度が上がるというステップがある。ＸＡＩシステムは、多くのパラメーターから自動的に離陸のステップだと理解する。同様に『飛行中』『捜索パターンの飛行』『墜落』もわかる。ドローンが墜落した場合、天候やセンサー精度なども踏まえ、『悪天候でセンサーを活用できず、山を見つけられなくて墜落した』といった説明ができる。ＡＩの専門家以外も理解できることがポイントだ」
―今後、研究をどう進めますか。
「ＤＡＲＰＡとは、より多くの原因が考えられる複雑な場合も説明できるように研究を進める。将来は総合的なドローンの任務に対応したい。また、ＸＡＩによってユーザーがＡＩに抱く信頼性が高まるか効果を測定している。当社としては民生向けのＸＡＩの研究に取り組む。例えば、Ｘ線画像から、がんを発症する可能性だけではなく、『画像のこの部分ががんになりそうな可能性を示している』といった説明を提供できるものを作りたい」
