2021/05/10
ニュープロダクツ
AIスタートアップ企業のCitadel AIは、企業が持つAIシステムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI固有のリスクから守るツール「Citadel Radar」β版を提供する。AIを改修することなく、さまざまなAIのモデルやアプリケーションに適用できるもので、効率的なAI品質保守が可能となる。
同ツールでは、導入企業のAIを自動モニタリングし、学習データと運用データの偏移、AIの予測値の経年変化、バージョン入れ替え等に伴う予測値の変動等をリアルタイムで検知する「モニタリング機能」を備える。
また、運用時の入出力データをさまざまな視点から自動で評価テストし、不正データ、異常値、悪意のある危険なデータなどをブロックしたり、レビュー用にタグ付けしてアラートを上げる「ファイアウォール機能」を搭載する。
さらに、導入企業のAIの思考過程を可視化し、推論結果に対する説明根拠を提示する「可視化機能」を提供する。これにより、AIの学習時に生じたバイアスや推論時のモデルの脆弱性等を検知し、品質改善につなげる。
同ツールは、「AIのパフォーマンスが学習時と比べて低下してしまう」、「AIへの入力データが、突如あるいは徐々に偏移したことに気づくのが遅れた」、「AIにとって見覚えのない異常値を、意識せずにAIに投入してしまった」、「AIの思考過程を分かりやすく説明したり、デバッグするのは容易でない」、「AIのバージョン入れ替えや、A/Bテストを実施した場合、予期せぬ結果が出てしまう」といった課題に対応する。
防災・危機管理関連の新製品ニュースリリースは以下のメールアドレスにお送りください。risk-t@shinkenpress.co.jp
リスク対策.com 編集部
ニュープロダクツの他の記事
おすすめ記事
-
リスク対策.PROライト会員用ダウンロードページ
リスク対策.PROライト会員はこちらのページから最新号をダウンロードできます。
2026/02/05
-
-
-
中澤・木村が斬る!今週のニュース解説
毎週火曜日(平日のみ)朝9時~、リスク対策.com編集長 中澤幸介と兵庫県立大学教授 木村玲欧氏(心理学・危機管理学)が今週注目のニュースを短く、わかりやすく解説します。
2026/02/03
-
-
-
発災後をリアルに想定した大規模訓練に学ぶ
2026年1月14日、横浜市庁舎10階の災害対策本部運営室で、九都県市合同による大規模な図上訓練が行われた。市職員に加え、警察、自衛隊、海上保安庁、医療従事者、ライフライン事業者などが一堂に会し、市災害対策本部運営をシミュレーションした。
2026/01/26
-
-
-
報告すべきか迷う情報 × 最初の一言 × 隠蔽と正直の分岐点
ここ数年、データ改ざんによる不正が突然発覚するケースが増えています。製品仕様に適合していないにもかかわらず、データの書き換えが行われていたり、燃費データや排ガス成分濃度が改ざんされているなど、さまざまな分野でこうした事件は後を絶ちません。今年も、中部電力・浜岡原子力発電所において、安全データの改ざん疑いが発覚しました。 こうした改ざんを未然に防ぐことは、リスクマネジメントの最重要テーマですが、一方で、既に起きてしまっていることを前提として、いかに早く発見し、対処するかを考えておくことも危機管理においては重要になります。
2026/01/26








※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方