2021/05/10
ニュープロダクツ

AIスタートアップ企業のCitadel AIは、企業が持つAIシステムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI固有のリスクから守るツール「Citadel Radar」β版を提供する。AIを改修することなく、さまざまなAIのモデルやアプリケーションに適用できるもので、効率的なAI品質保守が可能となる。
同ツールでは、導入企業のAIを自動モニタリングし、学習データと運用データの偏移、AIの予測値の経年変化、バージョン入れ替え等に伴う予測値の変動等をリアルタイムで検知する「モニタリング機能」を備える。
また、運用時の入出力データをさまざまな視点から自動で評価テストし、不正データ、異常値、悪意のある危険なデータなどをブロックしたり、レビュー用にタグ付けしてアラートを上げる「ファイアウォール機能」を搭載する。
さらに、導入企業のAIの思考過程を可視化し、推論結果に対する説明根拠を提示する「可視化機能」を提供する。これにより、AIの学習時に生じたバイアスや推論時のモデルの脆弱性等を検知し、品質改善につなげる。
同ツールは、「AIのパフォーマンスが学習時と比べて低下してしまう」、「AIへの入力データが、突如あるいは徐々に偏移したことに気づくのが遅れた」、「AIにとって見覚えのない異常値を、意識せずにAIに投入してしまった」、「AIの思考過程を分かりやすく説明したり、デバッグするのは容易でない」、「AIのバージョン入れ替えや、A/Bテストを実施した場合、予期せぬ結果が出てしまう」といった課題に対応する。
防災・危機管理関連の新製品ニュースリリースは以下のメールアドレスにお送りください。risk-t@shinkenpress.co.jp
リスク対策.com 編集部
ニュープロダクツの他の記事
おすすめ記事
-
-
-
阪神・淡路大震災30年 いま問われるもの
日本社会に大きな衝撃を与えた阪神・淡路大震災から30年。あらゆる分野が反省を強いられ、安全を目指してさまざまな改善が行われてきました。しかし、日本社会にはいま再び災害脆弱性が突き付けられています。この30年で何が変わったのか、残された課題は何か。神戸大学名誉教授・兵庫県立大学名誉教授の室﨑益輝氏に聞きました。
2025/02/06
-
-
リスク対策.PROライト会員用ダウンロードページ
リスク対策.PROライト会員はこちらのページから最新号をダウンロードできます。
2025/02/05
-
リスク対策.com編集長が斬る!今週のニュース解説
毎週火曜日(平日のみ)朝9時~、リスク対策.com編集長 中澤幸介と兵庫県立大学教授 木村玲欧氏(心理学・危機管理学)が今週注目のニュースを短く、わかりやすく解説します。
2025/02/04
-
-
-
-
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方