説明するＡＩ、説得される人間【上】 どうする判断の根拠
一度、「テンソル」という数学表現にデータを直して深層学習にかける。深層学習で重視された因子が、知識体系のどの知識に当たるか照合する。すると重視因子を「風が吹いて」から「おけ屋がもうかる」までの途中経過のように表現できる。
深層学習と知識体系を対応させて専門家の解釈を促す仕組みだ。井形伸之人工知能研究所プロジェクトディレクタは「医療や金融など、信頼性が求められる分野ほど、ＡＩの説明可能性が重視される」という。
利用者の命を預かる自動運転も同様だ。トヨタ自動車の米研究子会社トヨタ・リサーチ・インスティテュート（ＴＲＩ）は米マサチューセッツ工科大学（ＭＩＴ）と、自動運転ＡＩが自車の状態を説明する技術を開発している。
説明の対象が一般生活者であるため、専門用語や数値で表現できないことが難しい点だ。センサーなどの計測状況を表示しても、モニターを注視しないといけない。そこで注意喚起の段階からやさしい言葉で説明する必要があった。
研究チームは車両の部品モデルと車体運動モデルを作成し、車両からアクセルやタイヤなどのデータを集めた。データをモデルと照合して、部品の連動や車体の加速度、路面摩擦などを推定して状況を把握する。
まだ基礎研究ながら「右前輪力増加・左前輪力減少。理由・右輪推進力が増加もけん引閾値内、ステアリング・加速度センサーと一致。安全に左折と確認」などと、運転を実況中継できている。
ただ、このまま逐一報告されると、うるさく感じてしまうかもしれない。実装時には形が変わるだろう。研究チームの目標は物語を共有できる車の“心”を作ることだ。
ＡＩのユーザーのレベルに応じた説明技術が開発されている。課題はＡＩの説明が適切でもユーザーが納得するかどうかだ。説得する技術との融合が求められる。
（文＝小寺貴之）
