複雑で分かりにくいAIを判断基準が明確なAIに変換する単純化技術を開発：人工知能ニュース

日立製作所は、従来のブラックボックス型AIを判断基準が明確なAIに変換する「AI単純化技術」を開発した。経験や知識に基づいてユーザー自身で予測式を調整可能とし、信頼できるAIの構築を容易にする。

[MONOist]

　日立製作所は2021年12月24日、従来のブラックボックス型AI（人工知能）を判断基準が明確なAIに変換する「AI単純化技術」を開発したと発表した。同技術の一部を、同社グループにおいて製品出荷前の自動検査ラインに適用し、熟練者不足の解消や検査速度の向上効果を確認している。

AI単純化技術の概要［クリックで拡大］ 出所：日立製作所

　信頼できるAIには、精度だけでなく、説明性、透明性、品質、公平性などが必要になる。従来のブラックボックス型AIは、予測精度が高い一方、数式が複雑で判断基準が不明確のため、未知のデータに対して意図しない予測結果を導く不安やリスクを抱えていた。

　同社はあらゆる入力に対して、人が理解できる単純な予測式を作り、明確な判断基準の下で予測結果を提示できる技術を開発した。さらに、経験や知識に基づいてユーザー自身で予測式を調整可能とし、信頼できるAIの構築を容易にした。

ブラックボックス型AI変換技術［クリックで拡大］ 出所：日立製作所

　具体的には、既に開発済みのeXplainable AI（XAI）技術を利用して、入力データの特徴量が予測値に及ぼす影響の強さを貢献度として算出。次に、特徴量が変化しても予測値への貢献度が一定の入力データ領域をクラスタリング技術により抽出し、その領域でAIを単純な予測式に変換する。同様の処理を全入力データ領域で繰り返すことで、最終的にユーザーに分かりやすい単純な予測式を提供する。

想定アプリケーション［クリックで拡大］ 出所：日立製作所

　これにより、製造、金融、インフラ制御などさまざまな領域で、信頼できるAIの実装を可能にし、社会全体のDX（デジタルトランスフォーメーション）に貢献する。

⇒その他の「人工知能ニュース」の記事はこちら