　具体的には、既に開発済みのeXplainable AI（XAI）技術を利用して、入力データの特徴量が予測値に及ぼす影響の強さを貢献度として算出。次に、特徴量が変化しても予測値への貢献度が一定の入力データ領域をクラスタリング技術により抽出し、その領域でAIを単純な予測式に変換する。同様の処理を全入力データ領域で繰り返すことで、最終的にユーザーに分かりやすい単純な予測式を提供する。

想定アプリケーション［クリックで拡大］出所：日立製作所

　これにより、製造、金融、インフラ制御などさまざまな領域で、信頼できるAIの実装を可能にし、社会全体のDX（デジタルトランスフォーメーション）に貢献する。

⇒その他の「人工知能ニュース」の記事はこちら

AIが判断した根拠を一般ユーザーにも分かるように明示、三菱電機と理研が新技術
三菱電機が理化学研究所と共同で「制御の根拠を明示できるAI技術」を開発。今回開発したAI技術によって、AIが判断した制御の根拠や将来の状態を明示することでいわゆる「ブラックボックス問題」を解消し、人が理解しやすいAIの実現に貢献できる。今後は、5年以内となる2026年をめどに製品への搭載による実用化を目指すとしている。
「NG画像不足」を解決、少量データで特徴抽出するAI技術スパースモデリング
機械学習と比較して10分の1の教師データで特徴抽出を完了できるスパースモデリング技術。製造業の現場改革にどのように貢献し得るのか。ハカルス取締役 CBOの染田貴志氏に話を聞いた。
結果を改善するためのアクションを提示できる「説明可能なAI」を開発
富士通研究所は、AIが判断理由を示す「説明可能なAI」において、人が望む結果を得るために必要な手段を提示できる技術を北海道大学と共同開発した。AIの適用が、判断だけでなく、人の意思行動を支援する用途にも広がることが期待される。
AIプロダクトの品質保証をAI技術で支援する、「AI4QA」という考え方
AIの社会的影響力が高まる中で、AIそれ自体の品質保証の重要が高まっている。品質保証を実現する上で重要になる考えとは何か。
エッジAIや説明可能なAIは“過度の期待のピーク”へ
米国の調査会社Gartnerは「先進技術におけるハイプサイクル2020年版」を発表した。調査結果によると、「コンポーザブルエンタープライズ」「データファブリック」「組み込み型AI」「セキュアアクセスサービスエッジ（SASE）」「説明可能なAI」などが「過度の期待のピーク」に入った。
AIをブラックボックスにしないために、“判断の根拠”の解析を
日立超LSIシステムズ組込ソリューション事業部の猪貝光祥氏が、NVIDIAのユーザーイベント「GTC Japan 2018」（2018年9月13～14日）において、AIの品質保証に関する最新動向を紹介した。