ChatGPTに潜むAIリスクと今求められるAIガバナンス

佐久間 弘明
東大法学部を卒業後、経済産業省に入省し、デジタルプラットフォーム取引透明化法の策定、接触確認アプリのプライバシー影響評価などのAI・データにかかわる制度整備・運用に従事。その後、コンサルティングファームを経て2023年2月からRobust Intelligenceに参画し、日本市場における政策企画とオペレーションを担当。AIガバナンスに関する情報発信や政策提言に加え、企業のガイドライン対応等の支援も実施。
2023/03/31
寄稿
佐久間 弘明
東大法学部を卒業後、経済産業省に入省し、デジタルプラットフォーム取引透明化法の策定、接触確認アプリのプライバシー影響評価などのAI・データにかかわる制度整備・運用に従事。その後、コンサルティングファームを経て2023年2月からRobust Intelligenceに参画し、日本市場における政策企画とオペレーションを担当。AIガバナンスに関する情報発信や政策提言に加え、企業のガイドライン対応等の支援も実施。
ChatGPTの波が、ビジネスの現場に押し寄せています。
LLM(大規模言語モデル)であるGPT-3.5をベースに出力を調整したChatGPTや、その最新版であるGPT-4の性能は凄まじく、APIも公開されたことから、ホワイトカラーの働き方を一変させるとまで囁かれています。カスタマーサポートの自動化や書類の自動作成をはじめとして、さまざまな企業で応用可能な事例が生まれようとしています。
また、LLMについては、転移学習によって法務・人事など特定領域に特化したAIモデルをつくることもでき、活用の幅はほぼ無限に広がっています。
今後のビジネスにおいて、ChatGPTやLLMを「活用しない」ということはあり得ないと言っても良いでしょう。
しかしながら、AIの活用にはさまざまなリスクが潜んでいます。Robust Intelligenceは国内外の知見をもとに、AIリスクを「機能・品質面のリスク」「倫理的なリスク」「セキュリティ面のリスク」の3つに分類しているため、その分類に沿って説明します。
学習時のデータと実データの間での解釈や分布の違いから、事実と異なるアウトプットを出力してしまったり、推論の精度が下がったりすることがあります。
ChatGPTもよく「嘘をつく」ことが知られており、自信満々に存在しない事実を語る「幻覚 Hallucination」などの問題が有名です。同じくLLMベースのチャットボットであるGoogleのBardが、発表時のデモで誤った回答を出力し、株価下落にまで繋がったことは記憶に新しいでしょう。また、安全管理や医療、人事などのハイリスク領域のAIではこの問題はより深刻な事案に発展します。
続いて、AIが差別的な出力や犯罪につながる出力を行うリスクが存在します。この問題は、実データ自体が社会のバイアスなどを反映するために起きる問題です。
実際、ChatGPTが子どもの性搾取を含むコンテンツを生成した問題や、画像生成AIの出力において人種の偏りが起きた問題が知られます。また、米大手HRテック企業の採用AIが差別をしているとして訴訟を受けるなど、生成系AI以外も含めさまざまなケースでこの問題が取り上げられています。
最後に、悪意あるユーザによって望ましくない出力が行われたり、個人情報や機密情報が漏洩するリスクがあります。また生成系AIでは、アウトプットが著作権侵害にあたるといったリスクも指摘されます。
ChatGPTにおいても、特定のプロンプトによって出力の規制を解除できるという報告がなされていますし、ユーザに対して別のユーザの個人情報が表示されるという不具合が生じたこともありました。
これらの課題の多くは、国内外の政府による規制やガイドラインによって対応が求められているものです。また、個人情報保護法や著作権法など、「AI」を名指していないものの深く関わる法令も多数存在し、リスク管理は多様な視点で行う必要があることがわかります。
寄稿の他の記事
おすすめ記事
もうAI脅威論を唱えている段階ではない
インターネット上の大量のデータを組み合わせて新しいデータを生成するAIが脚光を浴びています。一般企業においても経営改革の切り札としてAI技術への関心が急拡大。一方で未知なる脅威が指摘され、リスクや倫理の観点から使用を規制する動きも。AIの未来は明るいのか。東京大学次世代知能科学研究センターの松原仁教授に聞きました。
2023/05/28
リスク対策.com編集長が斬る!【2023年5月23日配信アーカイブ】
【5月23日配信で取り上げた話題】今週の注目ニュースざっとタイトル振り返り/特集:化学物質災害・事故対応に役立つ情報基盤サイト
2023/05/23
重要リスクの理解深めるファシリテーション
重電機メーカーの明電舎は2016 年度から、全社的リスクマネジメント活動を開始。3ラインモデルと呼ばれる機能分担手法とCSAと呼ばれるリスク分析・評価手法を用いて体制を整備し、一般社員や管理職のファシリテーションを充実して重要リスクの把握、共有に務めながら活動への理解を深めています。同社の取り組みを紹介します。
2023/05/18
リスク対策.com編集長が斬る!【2023年5月16日配信アーカイブ】
【5月16日配信で取り上げた話題】今週の注目ニュースざっとタイトル振り返り/特集:AIを使ったBCP教育・訓練
2023/05/16
ブランドを守る! 日本コカ・コーラのERM
「コカ・コーラ」を筆頭に、多くの製品ブランドで日本の飲料業界をリードする日本コカ・コーラ株式会社。同社では、アトランタにあるグローバル本社や国内に5社あるボトラー社とともにコカ・コーラシステムを構築し、全社的リスクマネジメントに取り組んでいます。その体制と仕組みを紹介します。
2023/05/14
ヒヤリ・ハット共有で成長を支えるリスクマネジメントオイシックス・ラ・大地
新鮮で安全な有機野菜や特別栽培野菜などの食品の宅配事業を展開するオイシックス・ラ・大地は、毎月開催しているリスク管理委員会で日々のヒヤリハットを共有し、再発防止に努めるとともに、インシデントなどへの早期対応ができる体制を目指し活動を続けています。同社執行役員の山下寛人さんにご発表いただきました。2023年5月9日開催。
2023/05/11
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方