世界中で急増するサイバー攻撃では、進化する人工知能（ＡＩ）が悪用され、攻撃の大規模化とスピードが加速している。特に脅威となっているのが中国発のＡＩモデルの悪用だ。誰でも自由に低コストで複製・改変できる「オープン型」モデルが多く、世界のハッカーが、誤った使い方を防ぐための安全装置機能（ガードレール）を外し、侵入ツールとして悪用しているもようだ。
　◇闇市場に改悪版
　膨大な資金と計算資源を投じ、最先端ＡＩモデルの開発で先行するアンソロピックやオープンＡＩなど著名な米国企業は安全性を理由に「クローズ型」を採用する。これに対し、中国企業はＡＩが言葉の関係性を予測して回答するための知識に当たる「パラメーター（重み）」を無償公開するオープン型のモデルに注力。外部の開発者が公開技術の改善や応用の方法を練り、計算資源に限りがある中でも米企業との性能差を縮めている。
　ただ、オープン型には、安全装置を外すなど悪用リスクが高い。９～１０月に韓国で相次いだ銀行への不正アクセスでは、中国製モデルの「ディープシーク」や「ＧＬＭ」が使用された。システムの脆弱（ぜいじゃく）性を探す侵入テストを自動化する中国系のＡＩツール「ＡＲＴＥＸ（アルテックス）」と連携させて、大規模なサイバー攻撃につながった。
　サイバー空間の脅威分析を手掛けるカナダ企業フレアはブログで、ハッカーがダークウェブ（闇サイト群）や通信アプリのテレグラムといった秘匿性が高い手段で、安全装置を外した改悪モデルを販売していると指摘する。将来的に改悪モデルや攻撃自動化ツールなどの「闇市場」が形成されると警鐘を鳴らす。
　中国製ＡＩを武器化するのは、世界各国でサイバー攻撃を仕掛ける「ストーム―０９４０」など中国政府との関係が指摘されるハッカー集団だけではない。米セキュリティー企業ストレイカーは、中南米系の「サイバーカルテル」が使う複数のモデルの一つに、中国の「Ｋｉｍｉ」があったと報告している。
　◇防御にもオープン型
　無償公開されたオープン型は、自前で開発・運用環境を管理できるため、利用コストが安い。オープン型の擁護者も多く、７月にはマイクロソフトなど名だたる米企業が「防御側にも同等の能力を持つモデルへのアクセスが必要だ」とする公開書簡に署名。オープン型を活用した防御力の強化を訴える。
　また、同月に明らかになったオープンＡＩのＡＩモデルによる米新興ＡＩ企業ハギングフェイスのシステムへの侵入では、原因究明にＧＬＭが使われた。同社によると、米国の最先端モデルはシステムへの攻撃と判定し、強固な安全装置が障壁となって解析に使えなかったという。
　米半導体大手エヌビディアのジェンスン・フアン最高経営責任者（ＣＥＯ）はハギングフェイスの事例を引き合いに、「最高のオープン型とクローズ型の掛け合わせが防御側に必要だ」と強調している。　

（ニュース提供元：時事通信社）