生成AIガイドラインに欠かせないもの
第48回:IT後進国から脱却できるのか(8)

多田 芳昭
一部上場企業でセキュリティー事業に従事、システム開発子会社代表、データ運用工場長職、セキュリティー管理本部長職、関連製造系調達部門長職を歴任し、2020年にLogINラボを設立しコンサル事業活動中。領域はDX、セキュリティー管理、個人情報管理、危機管理、バックオフィス運用管理、資材・設備調達改革、人材育成など広範囲。バイアスを排除した情報分析、戦略策定支援、人材開発支援が強み。
2023/09/28
再考・日本の危機管理-いま何が課題か
多田 芳昭
一部上場企業でセキュリティー事業に従事、システム開発子会社代表、データ運用工場長職、セキュリティー管理本部長職、関連製造系調達部門長職を歴任し、2020年にLogINラボを設立しコンサル事業活動中。領域はDX、セキュリティー管理、個人情報管理、危機管理、バックオフィス運用管理、資材・設備調達改革、人材育成など広範囲。バイアスを排除した情報分析、戦略策定支援、人材開発支援が強み。
ここまで本シリーズをお読みいただいている方であれば、AIとはどのようなもので、利活用できれば大変便利なツールであると同時に、使い方を誤れば種々のリスクが発生することはご理解いただいているだろう。
そのリスクは、ITすべてに共通のものもあれば、AI特有のものもある。巷で策定が必要だと言われるガイドラインは、AI特有のリスクという観点で定められたものであり、AIの特性を理解していれば、当たり前の内容が記述されているに過ぎないとお気付きであろう。
しかし、当たり前のことが書かれてあるガイドラインなのだが、問題もある。理由は言うまでもないだろうが、ガイドラインとして文字化し定義した瞬間に、その抜け道を通るなど、本来の趣旨と反する行為が発生するリスクも生じるのが世の常であるからだ。
法律であれば、法の抜け道を通る行為は違法性がないとされ、その時点では許容されるだろう。だが、ガイドラインのように法的縛りがなく設定されるルールの場合は事情が異なる。たとえガイドラインに書いてあるままに忠実に運用したとしても、その目的を違えて問題が生じるのであれば、それは不正と言われても仕方がない。結果がすべてなのである。
問題発生の原因は、ガイドライン策定時の記述不足かもしれないし、運用想定の不足かもしれない。ガイドライン通りの運用であったとしても、問題発生時には何の言い訳にもならないということは理解しておく必要がある。
わかりやすい事例で説明しよう。例えば、自社製品の使用時の安全を確保するために、製造時の検査基準や耐久テスト基準などを設定し、確実にそれらを守って出荷されたとしても、市場で安全性の問題が発生すれば責任は逃れられない。その場合、自社検査はクリアしているから問題ないと説明しようものなら炎上は必須であろう。
当然そこには、予期せぬ使用方法や環境の問題もあるだろう。だが、あらかじめその想定がなされ、禁止事項としていない限り、自社検査基準自体の誤りであり、リスク想定が甘いと判断される。
つまり、ガイドラインの例として提示されているのは、あくまで広く一般的に想定される策でしかなく、そのままで使えるわけではない。一般例として参考にしながらも、自社の運用内容、環境条件、関連業務との関係なども含めて、あくまで自社基準のリスク想定を行っていなければ意味はない。
そして、それらの自社条件は生モノであり、時間とともに変化するのも当然だ。定期的な見直し、確認作業は必須である。
再考・日本の危機管理-いま何が課題かの他の記事
おすすめ記事
入居ビルの耐震性から考える初動対策退避場所への移動を踏まえたマニュアル作成
押入れ産業は、「大地震時の初動マニュアル」を完成させた。リスクの把握からスタートし、現実的かつ実践的な災害対策を模索。ビルの耐震性を踏まえて2つの避難パターンを盛り込んだ。防災備蓄品を整備し、各種訓練を実施。社内説明会を繰り返し開催し、防災意識の向上に取り組むなど着実な進展をみせている。
2025/06/13
「保険」の枠を超え災害対応の高度化をけん引
東京海上グループが掲げる「防災・減災ソリューション」を担う事業会社。災害対応のあらゆるフェーズと原因に一気通貫の付加価値を提供するとし、サプライチェーンリスクの可視化など、すでに複数のサービス提供を開始しています。事業スタートの背景、アプローチの特徴や強み、目指すゴールイメージを聞きました。
2025/06/11
リスク対策.com編集長が斬る!今週のニュース解説
毎週火曜日(平日のみ)朝9時~、リスク対策.com編集長 中澤幸介と兵庫県立大学教授 木村玲欧氏(心理学・危機管理学)が今週注目のニュースを短く、わかりやすく解説します。
2025/06/10
その瞬間、あなたは動けますか? 全社を挙げた防災プロジェクトが始動
遠州鉄道株式会社総務部防災担当課長の吉澤弘典は、全社的なAI活用の模索が進む中で、社員の防災意識をより実践的かつ自分ごととして考えさせるための手段として訓練用のAIプロンプトを考案した。その効果は如何に!
2025/06/10
緊迫のカシミール軍事衝突の背景と核リスク
4月22日にインド北部のカシミール地方で起こったテロ事件を受け、インドは5月7日にパキスタン領内にあるテロリストの施設を攻撃したと発表した。パキスタン軍は報復として、インド軍の複数の軍事施設などを攻撃。双方の軍事行動は拡大した。なぜ、インドとパキスタンは軍事衝突を起こしたのか。核兵器を保有する両国の衝突で懸念されたのは核リスクの高まりだ。両国に詳しい防衛省防衛研究所の主任研究官である栗田真広氏に聞いた。
2025/06/09
危険国で事業展開を可能にするリスク管理
世界各国で石油、化学、発電などのプラント建設を手がける東洋エンジニアリング(千葉市美浜区、細井栄治取締役社長)。グローバルに事業を展開する同社では、従業員の安全を最優先に考え、厳格な安全管理体制を整えている。2021年、過去に従業員を失った経験から設置した海外安全対策室を発展的に解消し、危機管理室を設立。ハード、ソフト対策の両面から従業員を守るため、日夜、注力している。
2025/06/06
福祉施設の使命を果たすためのBCPを地域ぐるみで展開災害に強い人づくりが社会を変える
栃木県の社会福祉法人パステルは、利用者約430人の安全確保と福祉避難所としての使命、そして災害後も途切れない雇用責任を果たすため、現在BCP改革を本格的に推進している。グループホームや障害者支援施設、障害児通所支援事業所、さらには桑畑・レストラン・工房・農園などといった多機能型事業所を抱え、地域ぐるみで「働く・暮らす・つながる」を支えてきた同法人にとって、BCPは“災害に強い人づくり”を軸にした次の挑戦となっている。
2025/06/06
リスク対策.PROライト会員用ダウンロードページ
リスク対策.PROライト会員はこちらのページから最新号をダウンロードできます。
2025/06/05
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方