出典：story set

休日の夜、何気なくスマホを眺めていると、SNS上で衝撃的な映像が目に飛び込んできた。あなたの会社の社長が「女性社員なんてみんな顔で採用している。歳いっているお局は正直自ら辞職してほしい」と言っている。この信じられない発言は瞬く間に拡散し、どう対応すべきか分からない。こんな発言をする社長ではないのに、いや、もしかしたらこれが本心なのか？ 普段社員に見せている顔は単なる建前だったのかもしれない。

こうした危機が現実に起こりうることを、今認識し、対応する必要がある。ディープフェイク技術の進化により、誰でも簡単に他人の声や映像を偽造できる時代が来ている。

このような状況は、今夜あなたの会社にも起こりうる。

ここで、米メリーランド州の高校で発生した実際の事件を紹介しよう。

メリーランド州の事件：ディープフェイクの実例

AP通信によると、2024年4月メリーランド州のパイクスビル高校で驚くべき事件が発生した。運動部長のダション・ダリエン氏が、校長の声をAIを用いて偽造し、人種差別的かつ反ユダヤ的な発言を含む音声を作成した。この音声はSNSで急速に拡散し、校長は休職に追い込まれ、家族も重大なリスクにさらされた。

警察によると、ダリエン氏は校長の自身に対する職務評価が低く、契約更新が危ぶまれていたことに不満を抱いていた。さらに校長から不正行為に関する追及を受けていたという。こうしたことから報復としてこのような行動に出たという。

偽造された音声には、校長が黒人学生やユダヤ人、二人の教師を非難する内容が含まれていた。音声は瞬く間に拡散し、校長とその家族に対する憎悪のメッセージや電話が殺到。学校内でも混乱が広がり、一部の教師は安全を感じられなくなり、学校の活動が一時停止する事態となった。

ディープフェイクは画像であれ、音声であれ、十分なデータがあれば誰にでも作ることができる。

専門家は、「人工知能はますます強力になり、非常に使いやすくなっている」と指摘し「基本的に、どんな被写体の声でもこのプラットフォームにアップロードすることができ、テキストを与えれば、その人物の声を作り始めることができる」と述べている。

参照元：Athletic director used AI to frame principal with racist remarks in fake audio clip, police say

ディープフェイクのリスク対策

すでにディープフェイクは、具体的な対策が必要なリスクとなっている。この新しいリスクに対処するためには、以下のような対策が必要と考える。

1. 認識と準備

ディープフェイクの技術を理解し、そのリスクを認識することが第一歩になる。企業内での教育を通じて、社員全員がディープフェイクの危険性を認識し、対策を講じる準備をすることが重要。

2. 技術的対策の導入

フォレンジック・ツールやサイバーセキュリティ対策を導入し、ディープフェイクを検出する技術を備えることも検討対象になるだろう。

3. 迅速な対応

ディープフェイクが拡散された場合、迅速に対応することが求められる。正確な情報を確認し、適切なステートメントを発表することで、被害を最小限に抑えることができる。関係者との迅速な情報共有と対応策の決定が鍵となる。

4. シナリオプランニング

さまざまなシナリオを想定し、対応策を事前に準備することが重要だ。例えば、偽の音声クリップが拡散された場合にどのように対応するか、具体的な行動計画を立てることが求められる。具体的なディープフェイク攻撃を想定した危機対応シミュレーションを実施し、実際の対応手順や役割分担を明確にする。シミュレーション結果を基に、対応策やプロセスの改善点を見つけ出し、計画を更新する。

5.外部専門機関との連携

ディープフェイク検出の専門機関やサイバーセキュリティ企業と連携し、最新の検出技術や対応策を導入する。必要に応じて外部コンサルタントを招聘し、リスクマネジメント戦略を強化する。