人材育成ツールにも活用されるリスクチェーンモデル

デロイトトーマツファイナンシャルアドバイザリー「FA Portal」

2023-03-16

松本敬史

東京大学未来ビジョン研究センター
客員研究員
Deloitte AI Institute
Deloitte Tohmatsu Consulting Senior Specialist Lead

AIサービスとリスクコーディネーション研究会のメンバーとしてAIガバナンスに係る産学連携での研究プロジェクトを推進。東京大学ではAIサービスのリスクコーディネーションを説明するフレームワーク「リスクチェーンモデル」を開発して様々なケーススタディを実施し、国際機関・コンソーシアム・省庁などの活動に参画している。

RCModelは、AIサービスが抱えるリスクのコントロールを検討するフレームワーク（松本敬史）

人工知能（AI）サービスには、例えば「AIの安全性および判断根拠の確度」や「人間との連携性」などに関わる、多様なリスクが存在します。RCModelはそんなAIサービスが抱えるリスクのコントロール検討に資するフレームワークです。

RCModel開発の背景としては、「AIサービスによって重要なリスクが異なる」「不確実性を持つAIモデルだけではリスクに対応し続けられない可能性がある」などが挙げられます。これらの課題を踏まえ、RCModelを構築いたしました。

RCModelでは「AIシステム／サービス提供者／ユーザー」の3層に分類し、各層の構成要素を繋ぎ合わせることで、リスクと対策を考えていきます。

また、RCModelの検討ステップは全部で5つ。5つの一連の過程を多様な部門やステークホルダーで検討することで、AIサービスが何を実現したい価値・目的と置いているのか、重大リスクは何か、そしてどのような対策を行うのか、などについて可視化していきます。

NECアカデミー for AI受講生によるパネルディスカッション

RCModelは、研修プログラムや実践などを通してAI人材を輩出する人材育成プログラム「NECアカデミー for AI」の受講生により、実際に利活用がなされました。具体的には、金融チームと製造チームに分かれ、今後AIサービスの導入・運用をリードする人材向けに、RCModelを用いたAIサービスマネジメントのケース検討が行われました。

	金融チーム	製造チーム
ケース検討したAIサービス	住宅ローン審査業務の効率化AI	空調機器の故障予測・メンテナンス管理（人員・部品）
実現すべき価値・目的例	省力化業務品質の均一化	迅速な修理による顧客満足度の向上部品配送の手戻りの削減
リスクシナリオ例	過度なAI依存個別案件への対応顧客への配慮不足法改正による影響	予測性能の維持異常気象製品仕様の変更在庫移動への対応

本ウェビナーでは以下3つのテーマで受講生によるフィードバックがなされました。

今回のケース検討を通して、気付いたこと・学べたこと

RCModelのフレームワークを用いることで、AIに精通した人材とAIに明るくない人材とが、共通した認識の下、リスクコントロールの検討ができるのではないかと感じた。
「AIサービスは、データサイエンティストの仕事の範疇でリスクコントロールが完結しない」という事実を再確認できた。

自分自身の得意分野・専門性・経験で検討に生かせた部分

住宅ローンを取り扱う部署に所属していた経験もあり、より現場に近い温度感でケース検討ができた。

次に同じ検討をするならば、どのような人材と一緒に検討できたら良いか

AIやデータサイエンスに必ずしも明るくない方と一緒に検討を試みたい。
例えば別部署の人材といった私と異なる知見・経験を持つ方と、新たな視点を交えて、一緒にケース検討を行いたい。

また受講生のメンターは、「『リスクの考え方』は様々なトラブルに対応した結果として学んでいけるもの。今回RCModelを用いたことで、自身の知見や経験にはない領域のリスクにも、新しく気付く機会になったのではないか」と総括していました。

プログラムでは、AIを勉強中の受講生でもRCModelを利用し、多様なリスクをどのようにサービスに落とし込んでいくのか、その検討が行われました。

現場のリーダーシップ人材の姿

続けてRCModel開発に携わった松本を含む3名によるパネルディスカッションも行われ、RCModelの有用性と利活用のポイントについて、以下のような指摘がなされました。

RCModelの有用性

学ぶ人のハードルを下げるためには、曖昧なものを、いかに教科書に載っているような可視化された知識にするかが大切です。その意味で、「NECアカデミー for AI」でRCModelが用いられたことは、曖昧なものを可視化された知識へと推し進める、大変有意義な取り組みだと感じました。

RCModelの利活用のポイント

リスク検討にあたり、自身の知見・経験が及ばずに解像度がぼやけてしまう領域は、その領域が得意な人材にカバーしてもらうことが重要であると「NECアカデミー for AI」の受講生も十分認識されたと思います。一方で、どこまで検討を深掘りするのか、その「終わりのなさ」は、実務上ではしっかり線引きをしなければならない難しさを感じました。

最後に、松本氏がRCModel研究の展望を次のように締めくくりました。

松本

今後はRCModelのケースを可視化し、実際のプラクティスを発信していきたいと考えます。そうすることで、失敗を恐れずにチャレンジする企業風土の醸成にも寄与できれば嬉しく思います。引き続き、東京大学とDAIIはRCModelを使って、人材育成を含む様々なテーマに向けて、研究活動を行い、研究成果を発表する予定です。

テクノロジーが難解になっていくからこそ、今後はリスクマネジメントの視点も踏まえた人材育成がより重要になることでしょう。また従業員の知識・暗黙知を組織の中にアセット（資産、財産）やノウハウとして蓄積していくことが大切です。今後は人材育成およびナレッジ蓄積の観点からも、RCModelの利活用が期待されます。