イメージ(Adobe Stock)

2つの企業のAIエージェント間でやり取り

仮定の状況を考えてみよう。あるメーカーの需給計画AIエージェントが、差し迫った供給不足を検知し、自律的にサプライヤーの受注管理AIエージェントに連絡を取り、出荷を早め、注文数量を調整するよう指示する。サプライヤーのエージェントは自社のルールに従い、別の顧客に割り当てられていた在庫を振替え、その顧客が確定済みと考えていた配送スケジュールを書き換えてしまった。どちらのエージェントも誤作動を起こしたわけではない。それぞれのAIは自社が定めたルールに従っていた。混乱が生じたのは、どちらの企業も、あるエージェントの定常的な動作が別のエージェントのトリガーとなった場合に何が起こるかを制御できず、また、下流で何を引き起こしているかを把握する手段もなかったのである。

この事案は、ほとんどのエージェント型AIガバナンスプログラムが対象とするリスクとは異なるリスクだ。これは、2つの企業の自動化システム間の境界における運用管理の問題である。在庫の再調整、出荷ルートの変更、例外フラグ付け、需要シグナルの共有、そして増え続けるサプライチェーンにおけるルーチン作業は、関係の両側のAIエージェントが直接実行し、リアルタイムで人間がやり取りをレビューすることはないのである。