生成AIガイドラインに欠かせないもの
第48回:IT後進国から脱却できるのか(8)

多田 芳昭
一部上場企業でセキュリティー事業に従事、システム開発子会社代表、データ運用工場長職、セキュリティー管理本部長職、関連製造系調達部門長職を歴任し、2020年にLogINラボを設立しコンサル事業活動中。領域はDX、セキュリティー管理、個人情報管理、危機管理、バックオフィス運用管理、資材・設備調達改革、人材育成など広範囲。バイアスを排除した情報分析、戦略策定支援、人材開発支援が強み。
2023/09/28
再考・日本の危機管理-いま何が課題か
多田 芳昭
一部上場企業でセキュリティー事業に従事、システム開発子会社代表、データ運用工場長職、セキュリティー管理本部長職、関連製造系調達部門長職を歴任し、2020年にLogINラボを設立しコンサル事業活動中。領域はDX、セキュリティー管理、個人情報管理、危機管理、バックオフィス運用管理、資材・設備調達改革、人材育成など広範囲。バイアスを排除した情報分析、戦略策定支援、人材開発支援が強み。
ここまで本シリーズをお読みいただいている方であれば、AIとはどのようなもので、利活用できれば大変便利なツールであると同時に、使い方を誤れば種々のリスクが発生することはご理解いただいているだろう。
そのリスクは、ITすべてに共通のものもあれば、AI特有のものもある。巷で策定が必要だと言われるガイドラインは、AI特有のリスクという観点で定められたものであり、AIの特性を理解していれば、当たり前の内容が記述されているに過ぎないとお気付きであろう。
しかし、当たり前のことが書かれてあるガイドラインなのだが、問題もある。理由は言うまでもないだろうが、ガイドラインとして文字化し定義した瞬間に、その抜け道を通るなど、本来の趣旨と反する行為が発生するリスクも生じるのが世の常であるからだ。
法律であれば、法の抜け道を通る行為は違法性がないとされ、その時点では許容されるだろう。だが、ガイドラインのように法的縛りがなく設定されるルールの場合は事情が異なる。たとえガイドラインに書いてあるままに忠実に運用したとしても、その目的を違えて問題が生じるのであれば、それは不正と言われても仕方がない。結果がすべてなのである。
問題発生の原因は、ガイドライン策定時の記述不足かもしれないし、運用想定の不足かもしれない。ガイドライン通りの運用であったとしても、問題発生時には何の言い訳にもならないということは理解しておく必要がある。
わかりやすい事例で説明しよう。例えば、自社製品の使用時の安全を確保するために、製造時の検査基準や耐久テスト基準などを設定し、確実にそれらを守って出荷されたとしても、市場で安全性の問題が発生すれば責任は逃れられない。その場合、自社検査はクリアしているから問題ないと説明しようものなら炎上は必須であろう。
当然そこには、予期せぬ使用方法や環境の問題もあるだろう。だが、あらかじめその想定がなされ、禁止事項としていない限り、自社検査基準自体の誤りであり、リスク想定が甘いと判断される。
つまり、ガイドラインの例として提示されているのは、あくまで広く一般的に想定される策でしかなく、そのままで使えるわけではない。一般例として参考にしながらも、自社の運用内容、環境条件、関連業務との関係なども含めて、あくまで自社基準のリスク想定を行っていなければ意味はない。
そして、それらの自社条件は生モノであり、時間とともに変化するのも当然だ。定期的な見直し、確認作業は必須である。
再考・日本の危機管理-いま何が課題かの他の記事
おすすめ記事
サプライチェーン・サイバーリスクの傾向と対策
本勉強会では、サプライチェーンにおけるサイバーリスクを整理し、その管理手法について解説していただきました。2023年12月5日開催。
2023/12/06
リスク対策.com編集長が斬る!【2023年12月5日配信アーカイブ】
【12月5日配信で取り上げた話題】今週の注目ニュースざっとタイトル振り返り/特集:南海トラフ地震臨時情報その2 企業の対応状況
2023/12/05
エマージング・リスクにどう備える1組織だけでなく、社会としての対応が必要
エマージング・リスク(emerging risks:新興リスク)と呼ばれる、これまであまり認識されていなくて急に出現するようなリスクへの関心が世界的に高まっている。10月にはエマージング・リスクの国際規格「ISO31050」が発行された。今なぜエマージング・リスクへの関心が高まっているのか、組織はどう対応していけばいいのか、日本リスクマネジメント学会(理事長:亀井克之関西大学教授)関東部会の会合で、会員に聞いた。
2023/12/02
リスク対策.com編集長が斬る!【2023年11月28日配信アーカイブ】
【11月28日配信で取り上げた話題】今週の注目ニュースざっとタイトル振り返り/特集:今こそ学び直す!南海トラフ地震臨時情報 その1
2023/11/28
東京都がオールハザード型Step.1を公表
東京都は11月24日、都政BCPを改定した「オールハザード型Step.1」を公表した。これまで主に首都直下地震を想定してきたが、東部低地帯における大規模風水害、島しょ地域での南海トラフ地震による津波被害、火山噴火、中規模な災害など、災害の事象や規模によって対処方法は多岐にわたることなどから、柔軟に対応できるBCPに改定した。これに併せて、被害の実態に即した執行体制を構築することで、災害対応力も一層向上させるという。
2023/11/27
南海トラフ地震臨時情報への理解と対応
リスク対策.com はこのほど、気象庁が2019年5月31日から運用を開始している「南海トラフ地震臨時情報」について、企業がどの程度理解し、対応を検討しているかなどを明らかにするため、アンケート調査を実施した。その結果、臨時情報の内容については概ね理解がされているものの、対応について検討したり、具体的な計画を策定している企業は一部にとどまることが明らかになった。
2023/11/26
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方