2021/05/10
ニュープロダクツ
AIスタートアップ企業のCitadel AIは、企業が持つAIシステムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI固有のリスクから守るツール「Citadel Radar」β版を提供する。AIを改修することなく、さまざまなAIのモデルやアプリケーションに適用できるもので、効率的なAI品質保守が可能となる。
同ツールでは、導入企業のAIを自動モニタリングし、学習データと運用データの偏移、AIの予測値の経年変化、バージョン入れ替え等に伴う予測値の変動等をリアルタイムで検知する「モニタリング機能」を備える。
また、運用時の入出力データをさまざまな視点から自動で評価テストし、不正データ、異常値、悪意のある危険なデータなどをブロックしたり、レビュー用にタグ付けしてアラートを上げる「ファイアウォール機能」を搭載する。
さらに、導入企業のAIの思考過程を可視化し、推論結果に対する説明根拠を提示する「可視化機能」を提供する。これにより、AIの学習時に生じたバイアスや推論時のモデルの脆弱性等を検知し、品質改善につなげる。
同ツールは、「AIのパフォーマンスが学習時と比べて低下してしまう」、「AIへの入力データが、突如あるいは徐々に偏移したことに気づくのが遅れた」、「AIにとって見覚えのない異常値を、意識せずにAIに投入してしまった」、「AIの思考過程を分かりやすく説明したり、デバッグするのは容易でない」、「AIのバージョン入れ替えや、A/Bテストを実施した場合、予期せぬ結果が出てしまう」といった課題に対応する。
防災・危機管理関連の新製品ニュースリリースは以下のメールアドレスにお送りください。risk-t@shinkenpress.co.jp
リスク対策.com 編集部
ニュープロダクツの他の記事
おすすめ記事
-
家庭の防災は企業BCPとつながっている
昨今は社員の自主防災力向上に努めている企業も多いでしょう。この時期は災害時のルール周知に余念がないと思いますが、ポイントとして提案したいのが、家庭の防災と企業BCP のつながりをしっかり伝えること。「家庭と会社は別」と考えがちですが、家庭の防災力を上げないと企業の事業継続力も上がりません。メッセージを出すよいタイミングです。
2024/05/02
-
-
企業不正の実態と不正防止対策
本勉強会では、企業不正の実態と不正防止対策について解説していただきました。2024年4月23日開催。
2024/05/01
-
-
-
-
リスク対策.com編集長が斬る!【2024年4月23日配信アーカイブ】
【4月23日配信で取り上げた話題】今週の注目ニュースざっとタイトル振り返り/特集:南海トラフ地震臨時情報を想定した訓練手法
2024/04/23
-
-
-
2023年防災・BCP・リスクマネジメント事例集【永久保存版】
リスク対策.comは、PDF媒体「月刊BCPリーダーズ」2023年1月号~12月号に掲載した企業事例記事を抜粋し、テーマ別にまとめました。合計16社の取り組みを読むことができます。さまざまな業種・規模の企業事例は、防災・BCP、リスクマネジメントの実践イメージをつかむうえで有効。自社の学びや振り返り、改善にお役立てください。
2024/04/22
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方