イメージ（Adobe Stock）

AIによる攻撃は新たな段階に入っています。急速な進歩により「便利な道具」から「自ら動き回る存在」へと変化しています。企業はこの脅威にどう対応すればいいでしょうか。

■事例：AIなりすまし被害

ある月曜日の朝、中堅製造業で長年セキュリティを担当しているAさんのもとに1本の電話がかかってきました。それは悲鳴に近い、経理部長からの内線電話でした。

「Aさん、大変なことが起きました。社長の指示通りに送金したはずの1,000万円が、跡形もなく消えてしまったんです！」

話を聞けば、先週の金曜日の夕方、経理部長の元に社長から直接、Web会議の招待が届いたのでした。画面越しに見る社長の顔は、いつものように少し疲れた様子で、話し方の独特な間や、考え事をする時に眉間に寄せる皺までもが、あまりにも「本人」そのものだったといいます。

「急ぎの案件でね、この口座にすぐに1,000万円を振り込んでほしいんだ」

そう語る社長の言葉に、部長は何の疑いも持ちませんでした。これまでの詐欺メールにあったような、どこかたどたどしい日本語や、不自然な文脈は微塵も感じられなかったのです。ところが、その「社長」はAIが作り出した虚像、いわゆるディープフェイクだったのです。

直後に追い打ちをかけるような報告が舞い込んできました。セキュリティチームがログを解析したところ、今年に入ってから自社の証券口座への不正アクセスが、すでに累計100件を突破していたというのです。AIが個人の日常的な行動パターンを巧妙に模倣し、人間と見分けがつかない「高度ななりすまし」によって、強固なはずの認証を次々と突破していたのでした。

Aさんの頭の中では「守りのルールは完璧だったはずなのに・・・」と、これまでの防御に関する常識が音を立てて崩れ去る音がしていました 。

現場の混乱は外部からの攻撃だけにとどまりません。業務効率を上げるために全社導入した「自律型AIエージェント」が、予定外の動きを始めていました。本来ならAさんの右腕として働くはずのAIが、社外秘のプロジェクト資料を提携先のメールに勝手に添付して送ってしまうという事案が発生したのでした。自ら判断し、自らタスクを完遂するエージェント型AIが社内の仕組みを学習し、勝手に社内の機密情報を漏洩していたのです。

「これまでは、怪しいメールさえ開かなければ大丈夫だと思っていた。でも、完璧な日本語を話し、社長の顔をして、しかも社内システムの中からも自律的に攻撃を仕掛けてくる相手に、一体どう立ち向かえばいいのか・・・」

Aさんは途方に暮れています。