AIリスクの要素が絡み合うところで、目に見えない脅威の兆候を読み取る（イメージ：写真AC）

犬笛効果という言葉が米国の政治ジャーナリズムに初めて登場したのは、1988年のワシントンポストだそうです（『言葉はいかに人を欺くか』ジェニファー・ソール、小野純一訳、慶応義塾大学出版）。

「世論調査の回答者は、質問の中に研究者には聞こえない何かを聞き取る」という意味で使われたとのこと。この言葉は、その後には違う意味合いを帯びるようになっていきますが、コミュニケーションの中に一見してはわからない何かを聞き（読み）取れる人がいる、というのは、犬笛（効果）の意味として通底しているようです。

さて、この言葉がAIの暴走リスクとどう結びつくのかについては、本稿の最後の方で議論させていただきますが。まずはこの用語の政治・社会の文脈での意味を共通認識とさせていただきました。

脅威の未来予測とシナリオシンキングの違い

さて、本題ですが、未来の脅威やリスクは予測できないもの。いや、未来の出来事はすべて、そもそも不可知。では、脅威に「どう備えるべき」かが問題となります。

サイバーセキュリティ業界でも、AIの二文字が跋扈（ばっこ）していますので、いろいろな議論があると承知していますが、今回は本年年頭のアンケート「取り組むべき対策」の第一に挙げました「テクノロジーによる未知の事態に備えるシナリオシンキング」の視点から考察を試みます。

2～3年先に現れるであろう脅威の予測を毎年詳細に検討し、それらの予測が2年後に振り返っても高度の精度を誇り、推奨する対策案にもあつい信頼が寄せられるセキュリティ業界の権威のある報告書として「ISF 脅威の地平線」があります（会員限定の刊行物）。10年以上、同じスタイルで続いたのですが、2023年1月発刊の「脅威の地平線2025」から、シナリオシンキングのスタイルに大転換されました。

つまり、これこれが起きるはず、という的を射るような未来の見方ではなく、いくつかの脅威のエレメントを想定して、それがどういう外的環境（例えば、政治や経済。あるいは、世相や技術、さらには環境）と絡み合って、どういう脅威の衣をまとって現れ、どの程度のインパクトをもたらし得るのか。それを念頭に、どう「備え」ておくか、という「思考経路」を辿ってみせるところが、この報告書のシナリオシンキングの価値になるわけです。

情報セキュリティやデジタルリスクの問題も、想定シナリオを示すことで、企業経営との関わりを実感をもって説明でき、ビジネスリーダーとの会話がかみ合う、という趣向です。

シナリオシンキング：脅威のエレメントその一

当ブログでは、そうしたシナリオシンキングの詳細や、AIリスクの具体的なストーリーを共有することは制約があってできませんが、代わりに、簡単ですがシナリオシンキングの思考実験をやってみたいと思います。具体的には、二つのエレメントを取り上げ、その間に、今まで見えなかった関係性（犬笛効果）を見つけ出し、仮想シナリオを描くという手順です。

最初に取り上げるエレメントは、サイバー犯罪者たちが自律的に作動するAIエージェント（自律型AI）を使って攻撃力を高めるという脅威です。この7月、The European Magazine に掲載されたISFのスティーブ・ダービン氏の解説（※）を読んでみます。
（※）How AI agents are supercharging cybercrime - Information Security Forum

（以下、引用）

サイバー犯罪を加速させるAIエージェント

AIエージェントとは何か？

人工知能（AI）エージェントとは、ユーザーに成り代わって、自動的にタスクを実行できるシステムです。この自律型AIは、環境の変化に適応し、人の介入なしに判断ができるのです。

膨大なデータセットを元に、自律的に認識し、処理することができるため、医療、製造、金融、銀行などの産業でプロセスの最適化を通じてイノベーションやバリューチェーンの変革を後押ししています。2024年の報告によれば、2027年までに82パーセントの企業がAIエージェントを導入すると予測されています。

AIエージェントとは、ユーザーに成り代わって自律的にタスクを実行できるシステム（イメージ：写真AC）

自律型AIはサイバー犯罪自動化の兵器にもなる

AIエージェントの自律性は進歩であると言えるのは、倫理的かつ責任ある使用があってこそです。ところが、人の介在なしに（目標設定、計画、タスク実行の）判断し、環境適応するAIエージェントは、犯罪者たちの関心も引きつけています。

複数の攻撃を協調して自動的に行う「自律型AIマルウェア」チームを結成することも今や可能です。そうした（自動化された大規模な）スケーラブル攻撃も、かつてないほど能力が高まり、現行の脅威検知システムの性能を超える可能性があります。

あるサイバーセキュリティ対策におけるAIの現状報告書（2025年版）では、CISOの78パーセントが、AIによるサイバー脅威がすでに自社に大きな影響を及ぼしていると回答していいます。