AIの品質維持作業を効率化するモニタリングツールのβ版を発表：製造ITニュース

Citadel AIはAIシステムの自動モニタリングなどにより、品質維持や保守作業を効率化するツール「Citadel Radar」のβ版の利用募集を開始した。自動モニタリングやファイアウォール機能、可視化機能などを備える。

[MONOist]

　Citadel AIは2021年5月10日、AI（人工知能）システムの自動モニタリングなどにより、品質維持や保守作業を効率化するツール「Citadel Radar」のβ版の利用募集を開始した。

「Citadel Radar」β版（クリックで拡大） 出典：Citadel AI

　同ツールは企業が有するAIシステムを自動的にモニタリングし、異常を検知、ブロック、可視化することでAIの品質を保守する。学習データと運用データの偏移やAIの予測値の経年変化、バージョン入れ替えなどによる予測値の変動をリアルタイムで検知、計測する。

モニタリング機能（クリックで拡大） 出典：Citadel AI

　また、運用時の入出力データを自動評価して、不正データや異常値、悪意のある危険データなどをブロックしたり、タグ付けしたりするファイアウォール機能を有する。

ファイアウォール機能 出典：Citadel AI

　可視化機能では、ユーザーのAIの思考過程を可視化することで、推論結果に対する説明根拠を提示する。学習時に生じたバイアスや推論時のモデルの脆弱（ぜいじゃく）性も検知できる。

可視化機能（クリックで拡大） 出典：Citadel AI

　これらの機能により、AI運用時のパフォーマンス低下や入力データ偏移の発見の遅れ、異常値の投入などを防止する。

⇒その他の「製造ITニュース」の記事はこちら