人工知能技術の業務での活用方法について -説明できるAI(XAI)から共に進化するAI(CAI)へ-

横浜国立大学　大学院環境情報研究院　教授　　長尾智晴

PDFダウンロード

1.　はじめに－人工知能技術の現状と課題

2015年に深層学習 (ディープラーニング) に基づく機械学習を用いた囲碁ソフトのAlphaGoが人のプロ棋士に勝利したころから，AI (Artificial Intelligence：人工知能) の性能の高さに対して世間の注目が集まるようになり，今やAIというワードが毎日のようにテレビ，新聞やWebに登場している．また，それと共に企業の業務へのAI導入が盛んに検討されている．

コンピュータを使って現実の問題を解決するためには，以前は人が個別に処理アルゴリズム (方法・手順) を考えてプログラムを作る必要があったが，機械学習 (Machine Learning：ML) ，特に深層学習のような階層型人工神経回路網によって，入出力の組 (教師信号) を複数個入力するだけで，所望の処理を作ることができ，入力の特徴量やそれらの組合せを人が考えなくても済むようになった．このため，次に例示するように入出力を変えるだけでさまざまな処理を深層学習で作ることができる．

• 画像認識：画像データ→画像分類，物体検出，セグメンテーション
• 音声認識：音声データ→文字列・文章変換
• 異常検知：センサ値→異常／正常 (外れ値検知，変化検知)
• 将来予測：過去と現在の情報→将来の値や状態の予測 (需要予測，故障イベントの予測など)

このように教師信号を用意するだけで，入力信号から欲しい出力を直接学習できることを“end-to-endの学習が可能である”という．これだけに着目すると，もはやAIによってあらゆることが簡単に実現できそうにも見えるが，実際はそう容易ではないことに注意する必要がある．現時点では，人が深層学習のための回路網の構造や学習法を考えて，プログラムに与えている．最近，国内外で研究されているAutoML (後述) やニューラルネットワーク (神経回路網) の自動設計も発展途上であり，まだしばらくの間は人が経験と勘に頼ってモデルを設計する必要がある．

また，画像・音声認識といったさまざまな処理に対し，これまでの機械学習よりも高い性能を示した深層学習であっても，次のような課題があり，万能な手法とはいえない．

① 一般に膨大な数の教師信号が必要
② 複雑過ぎるブラックボックスの回路
③ 学習に高性能な計算機や長い計算時間が必要
④ 部分的にいずれかの企業や大学によって特許化・権利化済み　など

特に② は企業で利用する際に問題となる．高性能であっても説明できない処理を使うことは，コンプライアンス上の大きな問題や訴訟のリスクなどを含む．この問題を解決するため，近年「AIの説明性」が注目されている．これについては2章で述べる．

深層学習を含む，機械学習一般の現状や課題を次に示す．

(1) 説明性・納得性と精度のトレードオフ

第1図に現状の幾つかの機械学習法を「説明性・納得性」と「処理の精度」の観点から示す．深層学習は高精度であるが処理過程が複雑で説明性が著しく低い．一方，決定木は処理過程が明快で理解しやすいことから説明性があるといえるが，精度は深層学習に及ばない場合が多い．いずれの手法にも一長一短があり，図中の★を目指す改良が行われているところである．2018年に内閣府の「人間中心のAI社会原則検討会議」にて策定された「人間中心のAI社会原則」には，「AIを利用した企業に決定過程の説明責任を課す」という項目が含まれており，高い精度を有しながら説明性・納得性が高い方法が望まれている．

(2) 精度保証

学習したデータに対しては高精度であることは予想できるが，教師信号とは少し異なる新たなデータに対しても，同様の性能を発揮するかは利用者にとって極めて重要である．しかしながら機械学習ではその保証が難しい場合が多い．教師信号が既知な場合は，新たなデータの分布と比較してある程度挙動を予測できるが，教師信号が不明な学習済みの深層回路に対して，未知のデータに対する挙動を保証することは難しい．現在，さまざまな研究機関・組織での検討が行われているが，いまだ決定打に乏しい段階である．

(3) AIのセキュリティ

昨今必要性が高まっているのが，装置に組み込まれたAIを外部からの攻撃から守ることである．深層回路に特定の入力を与えると，挙動を不適切なものに改変できる場合があることが知られている．そのような攻撃に対して強い回路にするなど，AIを守る必要性が高まっている．AIが攻撃を行うこともあり，もはやAI対AIの戦いの時代が来ているといえる．

(4) AIの自動化：AutoML

さまざまな機械学習ライブラリやPython言語によるプログラム開発環境の充実化によって，以前よりAIを作ること／使うことは身近になり，少し勉強した人であればすぐに機械学習プログラムを作って試すことができる時代になった．しかしながら，実際の企業のデータを有効に利用する機械学習を行うためには，データの前処理，機械学習モデルの選択，ハイパーパラメータの調整などやるべきことが多く，それらを自動チューニングしようとする技術が盛んに研究されている．現在は専門の技術者でないと扱いづらい部分があるAIも，いつの日にか，まるでワープロや表計算ソフトを使うように一般の人でも気軽に利用できるようになるかもしれない．AI開発にかかる処理そのものを構築する自動プログラミングについても，まだ発展途上であるが，いずれ高度なものが登場することが期待されている．

(5) 人と機械の共生 (感性情報処理など)

サービス・産業用ロボットなどの機械が，今後ますます人の生活や仕事に導入されるようになると，互いにストレスなく意思疎通や協働ができることが求められる．人の気持ちや感情を機械が推定したり，場合によっては感情のようなものを機械が表出したりする必要が出てくる．そこで，現在，脳科学の知見も取り入れて，人と機械のコミュニケーションについて盛んに検討が行われているところである．

(6) 人の知識の利用と共進化

1970年代に知識工学とエキスパートシステムが注目されたときは，人の専門家の知識をif-then形式のルール集合などの形式で人が手作業をとおして機械に入力していたため，知識獲得が性能のボトルネックとなっていた．そこで，知識獲得を自動化し，機械の知識の質と量を増やすために機械学習が発展した．(1) の機械学習の説明性向上に伴って，これまでブラックボックスのために理解できなかった機械の判断根拠やプロセスを人が理解できるようになると，人が新たな知識を機械に与えたり，逆に人が機械から知見を得たりすることが可能になる．これによって人と機械の知能が共に進化すると考えられている．

次章では，昨今特に注目を集めている説明できるAI (explainable AI：XAI) と共進化型AI (Co-evolutional AI：CAI) を紹介する．

2.　人工知能のトレンド－XAIからCAIへ

2.1　説明できるAI：XAI

深層学習の神経回路はあまりにも複雑で人が直感的に理解することができないため，機械学習が行う処理の判断根拠や判断プロセスを人が理解できるようにするXAIが，国内外で研究されており，企業へのAI導入に関連して，最近特に注目されるようになってきている．

これまでに，深層回路の中間層の応答を可視化したり⁽¹⁾，出力に影響を与える入力信号をヒートマップ形式で示したり^{(2), (3)}，入力信号付近を局所的に線形近似して，影響度の強い入力を端的に示したり^{(4), (5)}，入力信号の特徴量を次元圧縮して可視化したり^{(6), (7)}するなどによって深層学習を説明しようとするさまざまな研究が試みられている．文献(2)に基づき作成した例を第2図に示す．左側の写真はAIによりボールペンと認識されたが，AIは右図の赤い箇所に反応してボールペンという識別を行った．このように出力 (識別結果) に影響を与える箇所を示すことで，なぜAIが正しい，あるいは誤った識別を行ったかを，人が考えることができる．

また，我々も深層回路を線形回路化してグラフや言葉で表す方法⁽⁸⁾，入力変数を画像化して出力に対するヒートマップを表現する方法⁽⁹⁾，二次元の状態空間を使ってシステムの将来変動を可視化・予測する方法⁽¹⁰⁾などのXAIの基盤技術を開発している．

企業では，前述のように，業務に用いるAIの説明性を担保する必要があり，これらの手法を説明に利用することが必要であるが，その前に，そもそも「説明性」について考える必要がある．なぜなら，どのような説明に対して納得するのかについては人によって異なるためである．例を次に示す．

【理論】数学・物理学などの理論を基に説明してほしい (シミュレーション系の技術者に多い) ．
【論理・推論】“A→B，B→Cなので，A→Cだ”，という演繹推論は安心できるが，帰納推論やアブダクションなどの高次推論は納得感がない．
【数式】項目が少ない線形和なら直感的に理解できるが，2次以降の項が入ると理解できない．
【前例】学習済みの事例 (データ) と似た入力だとわかればAIの出力も信頼できるので，安心感がある．

実はいずれも例外的なことや，出力の信頼性が欠ける場合もあるのだが，自分が期待する説明なら納得できるという人が多いようである．AI設計者が「解りやすい」と思う説明方法でも，AI利用者が「解らない」なら，その方法を採用することはできない．例えば特許⁽⁸⁾での説明対象者は医師であり，我々は当初，言葉による説明が最適と考えていたが，レーダチャートや式の方が理解しやすいとのことであった．「説明」というワードは，人の評価が絡むことを表していることがわかる．

このため，XAIを設計する際に“シーズベース”で考えるのは危険であり，“ニーズベース”が妥当である．そのAIシステムの利用者に対するヒヤリング結果を基にして，説明方法，満たすべき精度を決めてから，使用する機械学習モデルを選択してチューニングする必要がある．精度がよければよいという観点とは相いれない評価軸がある多目的最適化問題の一種と考えなければならない．

2.2　人と共に進化するAI：CAI

XAIによって機械学習が行っている判断や処理を人が理解することができるようになると，人からも何かいいたくなるのが人情というものである．例えば多次元の入力変数に優先度をつけて取捨選択する問題で，機械が「10番目の入力が最も重要」と判断したとき，人は先験的な知識として「9番目が重要」と考えていたとすると，ここで齟齬が発生することになり，「なぜ9番より10番の方が重要なのか？」を機械に問いたくなる．機械はその問いに対して両信号の影響度を具体的な事例を基にして示す，...というように，人と機械のある種の「意見交換」や「知識の相補的な提供」や「対話」が生じることになる．例えば人が重要と考える入力変数を必ず使うよう指示したうえで深層回路を作らせることなども可能である．そして機械と人が影響し合って互いに知的レベルを向上させることが期待できる．このような人と機械の対話に基づくAIをCAIと呼ぶ．現在，国立研究開発法人新エネルギー・産業技術総合開発機構 (NEDO) でこれに関するプロジェクトがある (「人と共に進化する次世代人工知能に関する技術開発事業」⁽¹¹⁾) ．筆者もその中のある採択プロジェクトの研究代表者を務めており⁽¹²⁾，進化計算などの最適化技術でXAIおよびCAIの基盤技術を開発して社会実装を行う研究を進めている．

とにかく膨大なビッグデータを扱えて，個人情報を好きなだけ利用できる“物量型”の海外製AIに日本製AIが対抗するためには，人がAIを生真面目に育てることしかないのでは？と個人的には考えており，それをMade in Japanの“職人芸的AI”と呼んで流行させたいと思っているところである．

3.　DX時代に必要とされるAI技術とは？

前述のAIの現状と課題を踏まえたうえで，今後導入しなければならないDX (digital transformation) において，企業の業務にAIをどのように導入すべきかについて考える．

3.1　業務へのAI導入時の基本8原則

筆者は数々のセミナーや講演で第3図のような8原則を提唱している．読者の方々には「釈迦に説法」の部分が多いかもしれないが，次に示させていただく．あわせて，IHIとの共同研究や人材育成への協力をつうじて見えるIHIの様子についても述べたい．

(1) AI導入は「待ったなし」で必須である

DX化においてAI導入は必然・必要条件であり，AI導入を避けるほかの道は存在しない．世の中いずれの企業でも取り組みは進めているだろうが，IHIでは本社部門と事業部門が互いの役目を果たしながら協力してDX推進やAI技術開発に取り組んでおり，必ずや将来のIHIの発展に貢献すると考える⁽¹³⁾．

(2) AIは手段であり目的ではない

まれにAIを導入すること自身が目的で，それによる効果は二の次のように考えている企業があるが，それは本末転倒である．AIはただのツールでしかなく，それをどのように利用して企業の発展につなげるのかが重要である．IHIもこの認識を忘れることなく，AIを活用いただきたい．

(3) AI導入はトップダウンで行う

企業のトップがAI導入方針を決めず，各部署のニーズを集めて多数決的に決めている企業があるが，その方式では導入ポイントを見誤る可能性が高い．情報収集は重要であるが，どこにAIを導入することが最もコストパフォーマンス的によいのかを最終的に決定して決断するのはトップの仕事である．DXと同じで，目的意識がないAI導入は失敗する．

(4) AI = 深層学習という誤解

今はやりの深層学習は確かに優れたモデルではあるがオールマイティーではなく，場合によってはそのほかの機械学習法の方が適している場合も多々ある．人材と同様にAIも「適材適所」が原則である．また，「最適化処理はAIではない」など，AIの定義に固執する人がいるが，それにはほとんど意味がない．最適化も含めて知的な情報処理はすべてAIである，と広義に捉えるべきであろう．この点，日ごろから研究や技術開発を行うIHIの専門家は理解されているようだが，事業部門との技術相談においては深層学習が前提となっていることもある．説明性やデータの量は技術だけでなく事業にも関わるものである．最適な方法を選ぶこと，そして最適な方法を選べる先導役が備わることが期待される．

(5) AI = データ収集という誤解

(4) のようにAI = 深層学習と考えると，学習には大量のデータが必要なので，AI導入を検討する前に，まずデータ収集から始めようとする企業がある．一見，妥当そうだが見当違いである．少ないデータでも適用できるモデルもあるし，協業先がデータ収集も行ってくれる場合もあるため，データのある／なしで，そこにAIを導入できる／できないを判断することは誤りである．しかしながら，有名なIT系・コンサルティング系企業も同様に考えている場合が多いのも事実である．AIコンサルタントという肩書をもっていても，AIについて実はあまりよく理解していない経営コンサルタントも多いのではないかと感じている．IHIでもまずはデータを集めてから，と考える方もあるようだが，今一度，社内・社外から見たときのデータの価値について検討することをお勧めしたい．

(6) AI = コスト削減という誤解

企業の利益 = 売り上げ - コストなので，AIによってコスト削減を行うことで利益が増えること自身は正しいが，「AIはコスト削減にしか使えない」と考えることは間違いである．確かに，何かの処理の自動化・省力化によって人件費を抑えたり，無駄な出費を低減させたりすることができる．一方では，売り上げをさらに伸ばすための新規事業の開拓や新規顧客の獲得，リスクヘッジなど，売り上げを増やす方向にもAIが適用可能である．筆者は，企業の業務のほとんどあらゆる部分にAIを導入する余地があると考えている．予防保全はユーザの装置・設備が壊れないよう事前に補修するもので，AIによる故障予知を行うことができればユーザ・メーカ共に無駄な出費は減らせる．これに加え，IHIでは予防保全をお客さまに提供するサービスのメニューとして用意することでユーザに選ばれる機会が増えるとも考えており，コスト削減に終始しない姿勢は望ましい⁽¹³⁾．

(7) 外部企業への丸投げは禁止

社内にAIを担うことができる部署や人材がいない場合，外注に頼らざるを得ないが，外部企業との契約には十分注意する必要がある．経済産業省も，AI・データサイエンス系の発注において，発注・受注企業間のコミュニケーションの欠如によって問題が生じていることに対して注意喚起を行っている⁽¹⁴⁾．無責任に外部企業に頼ると，何も得られないうえに社内にAI技術が蓄積されないことになってしまう．IHIは高度情報マネジメント統括本部や技術開発本部といった本社部門を活用した取り組みもある一方で，人材の質・量の不足を理由に外注への依存度が高い部門もあるようである．少しずつ内製化が進むとよいと感じる．

(8) AI技術者の人材確保・育成が必要

(7) を避けるためにも，社内で確実にAI技術者を育てる必要がある．昨今，企業向けのAI教育サービスなどが盛んであるが，必ずしも有効なものばかりではないので注意が必要である．大学が近隣の企業にAIの教育サービスを提供しているケースもある．筆者の個人的な意見としては，社内のAIに関心がある社員に半年から1年間程度の休暇を与えて自主的にAIを学ばせることがよいと考えている．今はWeb上に役立つ情報がたくさんあるので独学でもかなり勉強することができる．また，ダイキン工業株式会社は社内にAIを教育する，大学に似た教育制度を実施しており興味深い⁽¹⁵⁾．実際，かなりよいAI人材を養成することができているようである．IHIでも社内AIコンテストなどの教育・腕試し・切磋琢磨の場を提供されており，今後はDX人材育成の研修も充実させるということで私も2021年度から講義に協力している．ものづくり系企業でこれほどAI教育が充実している企業は珍しく，素晴らしいと思う．今後，AI技術だけでなく，ものづくりに関わる業務や経験もDX人材の間で共有できるとAIを活用した業務の改善が進むため，さらによいと思う．

3.2　通信技術の発展によって可能になるAIサービス

5Gサービスの展開により，高速大容量・低遅延・多数同時接続のネットワーク環境が利用できるようになってきた．つまり，遠隔地での大規模なデータ共有も可能となってきた．これにより新たなAIサービスが実現可能になると考えられている．次に例を示す．

(1) with/postコロナ時代のコミュニケーション

コロナ禍の影響でテレワークやオンライン会議が定常化したことで，確実に企業の業務形態が変化した．そこで問題になる意思疎通や臨場感の悪さをAI搭載のコミュニケーションツールで改善することなどが考えられる．

(2) 社内共通の開発プラットホーム

各社とも高速ネットワークを基に，異なる部署間で共通利用でき，意見交換を活性化するプラットホーム (社内PaaS：Platform as a Service) を実現しようとしている．ここでも各種の最適化やデータ検索・過去事例の有効利用などでAIの技術が必要となる．IHIにはILIPS (IHI独自のデータ収集・分析クラウドサービス) ⁽¹⁶⁾や，ILIPSとも連携可能なノーコードAIツールであるRapidMinerの展開が行われているとのことで，時代の先端を走っていると感じた．ほかの企業にもなかなかないシステムで驚きを感じた．

(3) マネジメントのためのAI

経理，人事，労務，営業，広告などでもAIの有効利用が期待される．例えば人事では社員一人一人の個性に合った部署の推奨，労務では表情や食事・定期健診データからのストレス検知や健康増進，営業では最も効果的な商品販売方法の検討など，さまざまな応用が考えられる．

(4) 研究・開発のためのAI

各種の設計支援や最適化，シミュレーションの高速化などはAIの独壇場である．従前の厳密なシミュレーションに加えて，データに基づく機械学習のルールを併用して近似計算することなどが考えられる．IHIではシミュレーションの高速化だけでなく，シミュレーションとAIの融合に取り組んだり，知財分析や研究分析へのAI利活用の検討も始まったりしているとのことで，先進的であると感じた．材料開発への応用など，今後さらなる発展が期待できる．

(5) 製造・管理のためのAI

製造工程の最適化や問題の検出，失敗事例の検索や対応策の検討などで有効に利用できる．また，販売後の機械の稼働状況をネットワークを介して顧客から集めることで，故障の予知や消耗品の交換時期のリマインドなど，顧客サービスの充実化を図るだけでなく，収集したビッグデータを解析することで，新たな設計のための有効な判断材料にすることも可能になる．IHIではすでにユーザの製品の稼働データによる予防保全の取り組みも始まっており，ソフトウェアはILIPS上で利用可能になっているとのことで素晴らしい．今後，そこで得られた知見を設計へフィードバックすることができるとさらによいと思う．

(6) リスク回避・意思決定のためのAI

現状のAIは大所高所からの状況判断は苦手なのでまだ実現困難であるが，企業のトップや執行役員の判断材料にするためのデータ解析や将来予測などを行うことで，人による判断や決定を支援・補助することが期待できる．

5.　おわりに－たかがAI，されどAI

昨今話題となっているAI (人工知能) の最近の話題や業務への導入上の課題について述べた．また，IHIにおけるAI利活用について触れた．現状，AIにはまだ問題が山積しているが，XAIからCAIへの流れなど，より身近で使いやすいAIへと発展すると考えられ，企業の業務への導入が期待される．導入に伴う問題や弊害のために敬遠されることも多いが，注意深く利用することで業務を刷新・発展させることができる極めて重要な技術であり，今後の進化に注目していただくと共に，これまで以上に業務で活用していただければ幸いである．

実は私の家内の父が横浜国立大学の造船出身でIHIに長年勤め，横浜工場長なども務めたということでIHIにはご縁がある．だから評価が高いのではなく，客観的に見て，IHIはハード + ソフト両面が強い稀有な企業であると思う．ぜひ，ますますご発展されることを願っている．

　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　　　 　　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　

第62巻　第1号 特集 価値創造に向けたDXの挑戦