　欧州で2024年8月に欧州AI規制法が発効し、各国もAIのリスクに対処するための法令やガイドラインを整備するなど、AIを開発／提供する企業にはAIの誤動作のリスクを適切に管理することが求められている。機器の自律制御システムや電力など社会インフラ、サイバーセキュリティなど安全性が重視されるシステムは誤動作で発生する損害が大きくなる可能性があり、AIの信頼性が特に重視される。

　AIの信頼性評価では、学習に用いていないテストデータで正解率などを検証するが、テストしていないデータでの誤動作リスクが排除できないなど限界がある。その対策として、「網羅検証」という手法がある。AIが期待する動作を行うか（決められた範囲内のデータに対して想定通りの出力ができるか）を漏れなく検証するが、AIモデルのサイズが大きいと検証に膨大な時間がかかる。また、誤動作の発生率が不明で、開発者が対処の優先度を判断しづらいなどの課題もあった。

　「他社も検証技術に取り組んでいるが、どうしても時間がかかってしまうので網羅的な検証自体が現実的ではない。そのためAIが不確定要素を持ったまま使われており、ミスが起きても大丈夫な用途に限られるのが実態だと考えている。だが、AIを搭載したロボットが人の近くで働くようになると、ミスが起きることは許されなくなる。その信頼性に向けて踏み出さなければならないという思いでソフトウェアの技術に取り組んでいる」（三菱電機情報技術総合研究所 AI研究開発センター長の毬山利貞氏）

従来の性能評価と網羅検証の違い［クリックで拡大］出所：三菱電機

24時間では終わらなかった検証も2時間以内に

三菱電機の吉村玄太氏

　三菱電機は、「決定木アンサンブルモデル」に対して効率的に網羅検証を行うアルゴリズムと、その検証ツールを開発した。決定木アンサンブルモデルとは、条件に基づいてデータを分割して予測を行う決定木を複数組み合わせて予測精度を向上させる手法だ。

　開発したアルゴリズムは、AIが入力するデータの範囲を再帰的に分割して検証することで、網羅検証にかかる時間を短縮する。例えば、住宅価格の予測など回帰分析であれば、従来は58秒かかっていたところ、開発手法では0.057秒で完了し、乳がんの良性／悪性判定のような二値分類では従来の8.96秒から0.30秒に短縮できたという。また、航空機の自動衝突回避のように24時間では完了しない多クラス分類も6239.53秒（1.7時間）で完了する。

　「現実的な時間でどんどん検証できるようになることがメリットだ。ハードウェアの最適化は行わずに、アルゴリズムやソフトウェア実装の工夫によって高速化を実現している」（三菱電機情報技術総合研究所 AI研究開発センターデータ分析技術グループマネージャーの吉村玄太氏）

　網羅検証にかかる時間をどの程度短縮できるかは、「学習したモデル自体の構造や、期待する動作の定義によって変わってくる。開発技術のアルゴリズムは、提示した入力の空間を再帰的に分割していって、分割した空間が100％期待通りに動く、もしくは誤動作すると分かった時点で分割を打ち切ることで高速化している」（吉村氏）

　検証ツールは学習済みのAIモデルを読み込んで使用する。AIに期待する動作は、直感的な操作で設定できる。検証結果は、合否を割合で表示することでリスクの大きさを示す。また、誤動作の発生条件ごとに発生率を色の濃淡で図示し、優先的に再学習すべき領域を把握しやすくする。

期待する動作が100％とは？

　　　　　　 1|2 次のページへ