AIを改修することなく、さまざまなAIのモデルやアプリケーションに適用できる

AIスタートアップ企業のCitadel AIは、企業が持つAIシステムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI固有のリスクから守るツール「Citadel Radar」β版を提供する。AIを改修することなく、さまざまなAIのモデルやアプリケーションに適用できるもので、効率的なAI品質保守が可能となる。

同ツールでは、導入企業のAIを自動モニタリングし、学習データと運用データの偏移、AIの予測値の経年変化、バージョン入れ替え等に伴う予測値の変動等をリアルタイムで検知する「モニタリング機能」を備える。

また、運用時の入出力データをさまざまな視点から自動で評価テストし、不正データ、異常値、悪意のある危険なデータなどをブロックしたり、レビュー用にタグ付けしてアラートを上げる「ファイアウォール機能」を搭載する。

さらに、導入企業のAIの思考過程を可視化し、推論結果に対する説明根拠を提示する「可視化機能」を提供する。これにより、AIの学習時に生じたバイアスや推論時のモデルの脆弱性等を検知し、品質改善につなげる。

同ツールは、「AIのパフォーマンスが学習時と比べて低下してしまう」、「AIへの入力データが、突如あるいは徐々に偏移したことに気づくのが遅れた」、「AIにとって見覚えのない異常値を、意識せずにAIに投入してしまった」、「AIの思考過程を分かりやすく説明したり、デバッグするのは容易でない」、「AIのバージョン入れ替えや、A/Bテストを実施した場合、予期せぬ結果が出てしまう」といった課題に対応する。

■プレスリリース

本製品に関するお問い合わせはこちら

ご担当者様へ：
防災・危機管理関連の新製品ニュースリリースは以下のメールアドレスにお送りください。risk-t@shinkenpress.co.jp

リスク対策.com 編集部