大河原克行のNewsInsight 第174回 より高品質で安全なAIに、発展の土台からつくる東芝「AIガバナンス」の中身
東芝は、AIに対する理念をまとめた「東芝グループAIガバナンスステートメント」を策定。これに基づき、信頼できるAIシステムの開発、提供、運用を推進する考えを示した。
![](https://image.news.livedoor.com/newsimage/stf/3/f/3fa5b_1223_d6e6d97b8bae76595dcca81af533f9fa.jpg)
東芝 執行役員 技術企画部 AI-CoEプロジェクトチームリーダーの堀修氏
東芝 執行役員 技術企画部 AI-CoEプロジェクトチームリーダーの堀修氏は、「東芝ではデータから学習したルールに基づいて判断を行うものをAI技術と位置づけており、東芝の製品には幅広く採用され、それを含むシステムは様々なところで稼働している。社会インフラの最適制御もAIのひとつに位置づけている。ただし、すべてをAIが判断するのではなく、最終的には人が関与して制御することになる」とし、「AIガバナンスステートメントは、東芝の経営理念である『人と、地球の、明日のために。』と、『私たちの存在意義』の原点となる『世界をよりよい場所にしたい』という変わらぬ思いをブレイクダウンしたものであり、経営理念と一致したものになっている」と述べた。
![](https://image.news.livedoor.com/newsimage/stf/f/9/f92c3_1223_8ef03d1880cb5d3a11156373169ec87f.jpg)
この東芝の経営理念と、AIガバナンスステートメントは一致したものになっているという
また、「AIガバナンスステートメントは、AIを安心、安全に利用してもらうために、AIに対する理念として公表したものであるが、さらに、AI品質を保つためにAI品質ガイドラインと、それを実現するためのプラットフォームであるMLOpsを活用。東芝が持っているAIの技術資産を安心、安全に利用できるように整備するAI技術カタログ、AIビジネスを支えるAI人材育成を組み合わせて、AIガバナンスと位置づけている」と述べた。
![](https://image.news.livedoor.com/newsimage/stf/c/4/c4581_1223_545126d8a413bc732de02309171db26c.jpg)
東芝のAIガバナンスの全体像
AIガバナンスは、今回発表したAIガバナンスステートメントと、AI技術、AIシステムの品質を保つ仕組み、AI人材育成で構成。これによって、AIの社会実装の促進に必要なAIガバナンスを推進することになる。
AI活用が拡大する一方で、AIを悪用したり、意図しない動作によるトラブルが発生したりしている。学習データに誤りや偏りがあり、学習させた結果、判断基準が説明できない場合や、透明性に欠けて使いにくい場合、AIが偏見を持ったものになるケースもある。
国内では、内閣府が「人間中心のAI社会原則」、総務省が「AI利活用ガイドライン」、経済産業省が「AI原則実践のためのAIガバナンス・ガイドライン」をそれぞれ用意し、AI原則の検討が進んでいる。また、海外においても、欧州AI規制法案によるAIシステムへの規制が進むなど、AIガバナンスへの対応は、AIを積極活用する企業にとって必要不可欠なものとなっている。
![](https://image.news.livedoor.com/newsimage/stf/9/1/91de9_1223_8a26ebf02922daec2de9b055719bcf38.jpg)
AIが拡大する一方、それによる社会課題も発生する
東芝には、1967年の世界初OCR(光学文字認識)郵便区分機の開発から、現在に至るまで、長年にわたって培ってきたAIの歴史がある。今回のAIガバナンスステートメントによって、社会や地球に対する責任を自覚し、東芝に脈々と受け継がれるベンチャースピリットと、発想力、技術力を結集し、社会課題の解決に取り組んでいくとの姿勢を示す。
「東芝グループは、長年のAIに関わる研究開発の歴史と、そこで培われた技術力、応用力を活用し、デジタルデータを積極的に利用することで、価値創造を目指している。そのために、安全でクリーンな世界、持続可能な社会、快適な生活の提供を実現することをAIガバナンスステートメントに盛り込んだ。『信頼できるAI』の提供に向けた取り組みを進めていくことになる」とする。
2022年4月に、グループ横断でAI施策を先導する組織として、AI-CoEプロジェクトチームを発足。同組織によって、「東芝グループAIガバナンスステートメント」を策定した。
AIガバナンスステートメントでは、AIに対する理念を明文化し、「誠実であり続ける」、「変革への情熱を抱く」、「未来を思い描く」、「ともに生み出す」という4つの価値観に分類し、「人間尊重」、「安心安全の確保」、「コンプライアンスの徹底」、「AIの発展と人材の育成」、「持続可能な社会の実現」、「公平性の重視」、「透明性と説明責任の重視」の7つの観点から取りまとめた。
![](https://image.news.livedoor.com/newsimage/stf/5/a/5abc4_1223_eb8cea60b60c5e964e0a129a9acc8195.jpg)
![](https://image.news.livedoor.com/newsimage/stf/4/5/4549a_1223_a258a182eadfd4d23a5f3d7257599a76.jpg)
AIガバナンスステートメントは、AIに対する理念を明文化し、7つの観点から取りまとめられた
なお、AI-CoEプロジェクトチームはバーチャルチームとして、AIに関するスキルを持つ人員で構成。AIガバナンスステートメントの策定作業などのために設置された時限的なものであり、2023年度で活動を終了することになる。
一方、AIガバナンスを構成するAI技術は、2019年から運用を開始したAI技術カタログとしてまとめており、東芝グループ内の社員は、登録されている216件のAI技術資産を一覧できるようになっている。既存AI技術資産を積極活用したり、その技術の強みや適した応用先が理解できるようになっている。
また、ウェブサイトを通じて、55種類の技術を公開しており、AI技術を通じた外部企業との共創を促進する役割も担うという。
AI人材育成については、2022年8月時点で、東芝グループ内のAI技術者が2,100人に到達したことも発表した。
東芝グループでは、2019年度に750人だったAI人材を、2022年度末(2023年3月)までに2,000人に拡大する計画を打ち出していたが、この計画を約半年前倒しで 達成したことになる。今後も継続的にAI人材の育成を進めるが、2022年度末までの人員数の新たな見通しについては明らかにしなかった。
![](https://image.news.livedoor.com/newsimage/stf/5/f/5f5d5_1223_4c8279149bd5f8c8a57b977c81662ff4.jpg)
AI人材の拡大計画を前倒しで達成
東芝グループでは、東京大学と共同開発した東芝AI技術者教育により、AI技術者を育成するためのカリキュラムを整備。新規に開発した5講座を含む25講座を活用し、AI人材の役割ごとの育成パスを確立している。現在、顧客の課題を整理して、AI活用の企画や提案などを行うAIプランナー、技術課題の分析とAIによる解決方法を検討し、AIモデルの開発を行うAIアナリスト、AIを搭載したシステムの開発、環境構築などを行うAIシステムエンジニア、AIを搭載したシステムの保守や運用を行うAIシステムオペレータの4つの役割をAI人材として分類している。
今後は、システムの開発、提供、運用を推進するために、全員がAIに関する理解を深める必要があると判断。非技術者のマネジメント層に向けたAIリテラシー講座を開発し、AI専門家以外のリテラシーを向上させることで、顧客に対して、「信頼できるAI」を提供する人材の強化を図る。「『信頼できるAI』に取り組むためには、AIリテラシーを持った人材の幅を拡大することが必要である。まずは、マネジャー層向けAIリテラシー講座を8月23日からスタートしているが、今後は、東芝グループの全従業員へ向けた講座も開発し、さらに幅広くAIリテラシーを広げていく」とした。
![](https://image.news.livedoor.com/newsimage/stf/4/6/46f00_1223_d1495ad790d2f9fa90b4124cc8c64a6c.jpg)
今後は、東芝グループの全従業員を対象に幅広くAIリテラシーを広げていく
さらに、AIシステムの品質を保つ仕組みづくりについては、東芝グループ独自の「AI品質保証ガイドライン」を策定するとともに、顧客目線で整理した「品質カード」を用いて、品質保証を可視化する取り組みを開始するという。
ここでは、AIシステムの性能を、認識率や正解率で示すだけでなく、学習や評価に利用したデータの傾向から、AIシステムが得意とする領域や苦手とする領域を示すことで、顧客がAIシステムの特徴を理解した上で利用できるようにしているという。
AI品質保証ガイドラインでは、AIの開発フェーズにおいて、考え方ややるべきことを整理し、誰が、いつ、なにをすべきかを提示。具体的には、実証段階においては、データの過不足の確認や、モデル汎用化性能評価を、AIアナリストチームが実施することを提示したりする。また、品質保証プロセスを設定し、必要な作業や作成すべき成果物の漏れがないようにプロセスを整備。品質チェックリストをもとに、開発の各段階でチェックを行うようにしている。さらに、品質カードでは、開発側で作ったチェックリストをもとに、運用する顧客側の視点でも可視化できる形に作りかえて、これをAIシステムとともに顧客に提供。AIシステムの誤用を防ぎ、リスクを軽減し、安全に運用できるようにしている。
![](https://image.news.livedoor.com/newsimage/stf/f/9/f9ed4_1223_150e699eb138b73de50a48a9bc1e3e31.jpg)
独自の「AI品質保証ガイドライン」を策定
![](https://image.news.livedoor.com/newsimage/stf/2/e/2ee7f_1223_1b08b7aba9290f0362b800305605b558.jpg)
「品質カード」による品質保証の可視化の取り組みも開始する
また、AIシステムの運用開始後の環境変化による性能劣化などが起きないように、継続的に性能を保つ仕組みとして、MLOpsを導入。社内外の製造現場や社会インフラなどを対象にしたAIシステムへの適用を開始しているという。
「AIシステムは、一度開発して終わりではなく、運用時の環境変化で性能が落ちることが多い。また、100%の正解率を出さないAIの品質を保証するには、従来の品質保証の仕組みとは異なる考え方が必要になる。そこで、MLOpsを用いるとともに、AI品質保証ガイドラインによって、安心、安全なAIシステムの品質保証につなげている」とした。
![](https://image.news.livedoor.com/newsimage/stf/5/a/5aaaf_1223_54034cc8945bed1ca7f40c4e4e6789e8.jpg)
従来の品質保証の仕組みとは異なる考え方となるAIシステムの品質保証
MLOpsは、導入したAIの性能をモニタリングして、AIモデルを更新し、性能を保つ仕組みだ。たとえば、冬場に機械学習をしたAIモデルだと、夏場の温度変化で装置の特性変化が発生した際に、AIが誤判定するといったことがある。こうした課題を防ぐために、運用時もモニタリングを行い、それをもとに再学習させ、AIの性能劣化を防ぎ、安定した運用につなげることができるというわけだ。
![](https://image.news.livedoor.com/newsimage/stf/3/4/34aab_1223_67c9cd687659928c35c098bac2662818.jpg)
製品製造時の異常を判定する画像認識AIの例では、誤判定に繋がりかねない季節変動や装置の特性変化などを再学習して、AIモデルを更新する必要がある
東芝 執行役員 技術企画部 AI-CoEプロジェクトチームリーダーの堀修氏は、「様々なインフラサービスを提供している東芝として、最もこだわったのが品質保証である。東芝が推進するDXにおいてはAIが重要であり、強力なツールになる。AIガバナンスステートメントとともに、AIリテラシーを備えた人材の拡大、AIシステムの品質を保つ仕組みづくりによって、東芝は、AIシステムをより安全なものに強化することができる」とした。
![](https://image.news.livedoor.com/newsimage/stf/3/f/3fa5b_1223_d6e6d97b8bae76595dcca81af533f9fa.jpg)
東芝 執行役員 技術企画部 AI-CoEプロジェクトチームリーダーの堀修氏は、「東芝ではデータから学習したルールに基づいて判断を行うものをAI技術と位置づけており、東芝の製品には幅広く採用され、それを含むシステムは様々なところで稼働している。社会インフラの最適制御もAIのひとつに位置づけている。ただし、すべてをAIが判断するのではなく、最終的には人が関与して制御することになる」とし、「AIガバナンスステートメントは、東芝の経営理念である『人と、地球の、明日のために。』と、『私たちの存在意義』の原点となる『世界をよりよい場所にしたい』という変わらぬ思いをブレイクダウンしたものであり、経営理念と一致したものになっている」と述べた。
![](https://image.news.livedoor.com/newsimage/stf/f/9/f92c3_1223_8ef03d1880cb5d3a11156373169ec87f.jpg)
また、「AIガバナンスステートメントは、AIを安心、安全に利用してもらうために、AIに対する理念として公表したものであるが、さらに、AI品質を保つためにAI品質ガイドラインと、それを実現するためのプラットフォームであるMLOpsを活用。東芝が持っているAIの技術資産を安心、安全に利用できるように整備するAI技術カタログ、AIビジネスを支えるAI人材育成を組み合わせて、AIガバナンスと位置づけている」と述べた。
![](https://image.news.livedoor.com/newsimage/stf/c/4/c4581_1223_545126d8a413bc732de02309171db26c.jpg)
AIガバナンスは、今回発表したAIガバナンスステートメントと、AI技術、AIシステムの品質を保つ仕組み、AI人材育成で構成。これによって、AIの社会実装の促進に必要なAIガバナンスを推進することになる。
AI活用が拡大する一方で、AIを悪用したり、意図しない動作によるトラブルが発生したりしている。学習データに誤りや偏りがあり、学習させた結果、判断基準が説明できない場合や、透明性に欠けて使いにくい場合、AIが偏見を持ったものになるケースもある。
国内では、内閣府が「人間中心のAI社会原則」、総務省が「AI利活用ガイドライン」、経済産業省が「AI原則実践のためのAIガバナンス・ガイドライン」をそれぞれ用意し、AI原則の検討が進んでいる。また、海外においても、欧州AI規制法案によるAIシステムへの規制が進むなど、AIガバナンスへの対応は、AIを積極活用する企業にとって必要不可欠なものとなっている。
![](https://image.news.livedoor.com/newsimage/stf/9/1/91de9_1223_8a26ebf02922daec2de9b055719bcf38.jpg)
東芝には、1967年の世界初OCR(光学文字認識)郵便区分機の開発から、現在に至るまで、長年にわたって培ってきたAIの歴史がある。今回のAIガバナンスステートメントによって、社会や地球に対する責任を自覚し、東芝に脈々と受け継がれるベンチャースピリットと、発想力、技術力を結集し、社会課題の解決に取り組んでいくとの姿勢を示す。
「東芝グループは、長年のAIに関わる研究開発の歴史と、そこで培われた技術力、応用力を活用し、デジタルデータを積極的に利用することで、価値創造を目指している。そのために、安全でクリーンな世界、持続可能な社会、快適な生活の提供を実現することをAIガバナンスステートメントに盛り込んだ。『信頼できるAI』の提供に向けた取り組みを進めていくことになる」とする。
2022年4月に、グループ横断でAI施策を先導する組織として、AI-CoEプロジェクトチームを発足。同組織によって、「東芝グループAIガバナンスステートメント」を策定した。
AIガバナンスステートメントでは、AIに対する理念を明文化し、「誠実であり続ける」、「変革への情熱を抱く」、「未来を思い描く」、「ともに生み出す」という4つの価値観に分類し、「人間尊重」、「安心安全の確保」、「コンプライアンスの徹底」、「AIの発展と人材の育成」、「持続可能な社会の実現」、「公平性の重視」、「透明性と説明責任の重視」の7つの観点から取りまとめた。
![](https://image.news.livedoor.com/newsimage/stf/5/a/5abc4_1223_eb8cea60b60c5e964e0a129a9acc8195.jpg)
![](https://image.news.livedoor.com/newsimage/stf/4/5/4549a_1223_a258a182eadfd4d23a5f3d7257599a76.jpg)
なお、AI-CoEプロジェクトチームはバーチャルチームとして、AIに関するスキルを持つ人員で構成。AIガバナンスステートメントの策定作業などのために設置された時限的なものであり、2023年度で活動を終了することになる。
一方、AIガバナンスを構成するAI技術は、2019年から運用を開始したAI技術カタログとしてまとめており、東芝グループ内の社員は、登録されている216件のAI技術資産を一覧できるようになっている。既存AI技術資産を積極活用したり、その技術の強みや適した応用先が理解できるようになっている。
また、ウェブサイトを通じて、55種類の技術を公開しており、AI技術を通じた外部企業との共創を促進する役割も担うという。
AI人材育成については、2022年8月時点で、東芝グループ内のAI技術者が2,100人に到達したことも発表した。
東芝グループでは、2019年度に750人だったAI人材を、2022年度末(2023年3月)までに2,000人に拡大する計画を打ち出していたが、この計画を約半年前倒しで 達成したことになる。今後も継続的にAI人材の育成を進めるが、2022年度末までの人員数の新たな見通しについては明らかにしなかった。
![](https://image.news.livedoor.com/newsimage/stf/5/f/5f5d5_1223_4c8279149bd5f8c8a57b977c81662ff4.jpg)
東芝グループでは、東京大学と共同開発した東芝AI技術者教育により、AI技術者を育成するためのカリキュラムを整備。新規に開発した5講座を含む25講座を活用し、AI人材の役割ごとの育成パスを確立している。現在、顧客の課題を整理して、AI活用の企画や提案などを行うAIプランナー、技術課題の分析とAIによる解決方法を検討し、AIモデルの開発を行うAIアナリスト、AIを搭載したシステムの開発、環境構築などを行うAIシステムエンジニア、AIを搭載したシステムの保守や運用を行うAIシステムオペレータの4つの役割をAI人材として分類している。
今後は、システムの開発、提供、運用を推進するために、全員がAIに関する理解を深める必要があると判断。非技術者のマネジメント層に向けたAIリテラシー講座を開発し、AI専門家以外のリテラシーを向上させることで、顧客に対して、「信頼できるAI」を提供する人材の強化を図る。「『信頼できるAI』に取り組むためには、AIリテラシーを持った人材の幅を拡大することが必要である。まずは、マネジャー層向けAIリテラシー講座を8月23日からスタートしているが、今後は、東芝グループの全従業員へ向けた講座も開発し、さらに幅広くAIリテラシーを広げていく」とした。
![](https://image.news.livedoor.com/newsimage/stf/4/6/46f00_1223_d1495ad790d2f9fa90b4124cc8c64a6c.jpg)
さらに、AIシステムの品質を保つ仕組みづくりについては、東芝グループ独自の「AI品質保証ガイドライン」を策定するとともに、顧客目線で整理した「品質カード」を用いて、品質保証を可視化する取り組みを開始するという。
ここでは、AIシステムの性能を、認識率や正解率で示すだけでなく、学習や評価に利用したデータの傾向から、AIシステムが得意とする領域や苦手とする領域を示すことで、顧客がAIシステムの特徴を理解した上で利用できるようにしているという。
AI品質保証ガイドラインでは、AIの開発フェーズにおいて、考え方ややるべきことを整理し、誰が、いつ、なにをすべきかを提示。具体的には、実証段階においては、データの過不足の確認や、モデル汎用化性能評価を、AIアナリストチームが実施することを提示したりする。また、品質保証プロセスを設定し、必要な作業や作成すべき成果物の漏れがないようにプロセスを整備。品質チェックリストをもとに、開発の各段階でチェックを行うようにしている。さらに、品質カードでは、開発側で作ったチェックリストをもとに、運用する顧客側の視点でも可視化できる形に作りかえて、これをAIシステムとともに顧客に提供。AIシステムの誤用を防ぎ、リスクを軽減し、安全に運用できるようにしている。
![](https://image.news.livedoor.com/newsimage/stf/f/9/f9ed4_1223_150e699eb138b73de50a48a9bc1e3e31.jpg)
![](https://image.news.livedoor.com/newsimage/stf/2/e/2ee7f_1223_1b08b7aba9290f0362b800305605b558.jpg)
また、AIシステムの運用開始後の環境変化による性能劣化などが起きないように、継続的に性能を保つ仕組みとして、MLOpsを導入。社内外の製造現場や社会インフラなどを対象にしたAIシステムへの適用を開始しているという。
「AIシステムは、一度開発して終わりではなく、運用時の環境変化で性能が落ちることが多い。また、100%の正解率を出さないAIの品質を保証するには、従来の品質保証の仕組みとは異なる考え方が必要になる。そこで、MLOpsを用いるとともに、AI品質保証ガイドラインによって、安心、安全なAIシステムの品質保証につなげている」とした。
![](https://image.news.livedoor.com/newsimage/stf/5/a/5aaaf_1223_54034cc8945bed1ca7f40c4e4e6789e8.jpg)
MLOpsは、導入したAIの性能をモニタリングして、AIモデルを更新し、性能を保つ仕組みだ。たとえば、冬場に機械学習をしたAIモデルだと、夏場の温度変化で装置の特性変化が発生した際に、AIが誤判定するといったことがある。こうした課題を防ぐために、運用時もモニタリングを行い、それをもとに再学習させ、AIの性能劣化を防ぎ、安定した運用につなげることができるというわけだ。
![](https://image.news.livedoor.com/newsimage/stf/3/4/34aab_1223_67c9cd687659928c35c098bac2662818.jpg)
東芝 執行役員 技術企画部 AI-CoEプロジェクトチームリーダーの堀修氏は、「様々なインフラサービスを提供している東芝として、最もこだわったのが品質保証である。東芝が推進するDXにおいてはAIが重要であり、強力なツールになる。AIガバナンスステートメントとともに、AIリテラシーを備えた人材の拡大、AIシステムの品質を保つ仕組みづくりによって、東芝は、AIシステムをより安全なものに強化することができる」とした。