2021/05/10
ニュープロダクツ
AIスタートアップ企業のCitadel AIは、企業が持つAIシステムを自動モニタリングし、異常を検知・ブロック、可視化することで、AI固有のリスクから守るツール「Citadel Radar」β版を提供する。AIを改修することなく、さまざまなAIのモデルやアプリケーションに適用できるもので、効率的なAI品質保守が可能となる。
同ツールでは、導入企業のAIを自動モニタリングし、学習データと運用データの偏移、AIの予測値の経年変化、バージョン入れ替え等に伴う予測値の変動等をリアルタイムで検知する「モニタリング機能」を備える。
また、運用時の入出力データをさまざまな視点から自動で評価テストし、不正データ、異常値、悪意のある危険なデータなどをブロックしたり、レビュー用にタグ付けしてアラートを上げる「ファイアウォール機能」を搭載する。
さらに、導入企業のAIの思考過程を可視化し、推論結果に対する説明根拠を提示する「可視化機能」を提供する。これにより、AIの学習時に生じたバイアスや推論時のモデルの脆弱性等を検知し、品質改善につなげる。
同ツールは、「AIのパフォーマンスが学習時と比べて低下してしまう」、「AIへの入力データが、突如あるいは徐々に偏移したことに気づくのが遅れた」、「AIにとって見覚えのない異常値を、意識せずにAIに投入してしまった」、「AIの思考過程を分かりやすく説明したり、デバッグするのは容易でない」、「AIのバージョン入れ替えや、A/Bテストを実施した場合、予期せぬ結果が出てしまう」といった課題に対応する。
防災・危機管理関連の新製品ニュースリリースは以下のメールアドレスにお送りください。risk-t@shinkenpress.co.jp
リスク対策.com 編集部
ニュープロダクツの他の記事
おすすめ記事
-
令和8年熊本地震 広がるデマ、どう見分ける?SNSとの向き合い方
28日に発生した最大震度7を記録した熊本地震では、早くも豪華寝台列車「ななつ星」が脱線したなどのデマ情報が広く拡散された。災害のたびに、広くSNSで拡散される情報にどう向き合えばいいか。デジタル空間の情報分析を専門とする Japan Nexus Intelligence の竜口七彩氏に聞いた。
2026/07/29
-
中澤・木村が斬る!今週のニュース解説
毎週火曜日(平日のみ)朝9時~、リスク対策.com編集長 中澤幸介と兵庫県立大学教授 木村玲欧氏(心理学・危機管理学)が今週注目のニュースを短く、わかりやすく解説します。
2026/07/28
-
-
事例研究で有事に備え、組織の体質改善で形骸化を防ぐ
組織レジリエンスの強化やサイバーセキュリティーの向上、サプライチェーンの強靭化など、危機管理やリスク管理担当者が関与する領域は年々拡大している。変化する社会状況にあわせ、担当者はどのように学び、備え、対応することが求められるのか。森総合研究所代表の森健さんは、自治体と企業で危機管理担当者としての経験を積み、現在はコンサルタントとして、企業や団体の危機管理の支援を手がけている。自身の経験を踏まえ、危機管理の担当者にどうアドバイスしているのか、話を聞いた。
2026/07/27
-
-
-
-
-
-








※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方