Citadel AIはAIシステムの自動モニタリングなどにより、品質維持や保守作業を効率化するツール「Citadel Radar」のβ版の利用募集を開始した。自動モニタリングやファイアウォール機能、可視化機能などを備える。
Citadel AIは2021年5月10日、AI(人工知能)システムの自動モニタリングなどにより、品質維持や保守作業を効率化するツール「Citadel Radar」のβ版の利用募集を開始した。
同ツールは企業が有するAIシステムを自動的にモニタリングし、異常を検知、ブロック、可視化することでAIの品質を保守する。学習データと運用データの偏移やAIの予測値の経年変化、バージョン入れ替えなどによる予測値の変動をリアルタイムで検知、計測する。
また、運用時の入出力データを自動評価して、不正データや異常値、悪意のある危険データなどをブロックしたり、タグ付けしたりするファイアウォール機能を有する。
可視化機能では、ユーザーのAIの思考過程を可視化することで、推論結果に対する説明根拠を提示する。学習時に生じたバイアスや推論時のモデルの脆弱(ぜいじゃく)性も検知できる。
これらの機能により、AI運用時のパフォーマンス低下や入力データ偏移の発見の遅れ、異常値の投入などを防止する。
Copyright © ITmedia, Inc. All Rights Reserved.