【ブリュッセル時事】英政府機関のＡＩセキュリティー研究所（ＡＩＳＩ）は４日、最先端ＡＩ（人工知能）のサイバー能力の評価試験中に、自律的に作業するＡＩエージェントが試験範囲を逸脱した行動を取ったと発表した。ソフトウエアに悪意のあるプログラムコードを挿入しようとしたほか、架空の人物を装い、管理者にコードの承認を迫ったという。実害は確認されていない。
　逸脱行動は７月２５～２８日、インターネット接続を許可し、安全機能を無効化した状態で実施した試験で発生。七つのＡＩモデルを使って計１２２回試験したところ、１０回で計１９件の逸脱行動があった。このうち１７件は米アンソロピックの「クロード・ミュトス５」、２件は米オープンＡＩの「ＧＰＴ５．６ソル」によるものだった。
　ＡＩＳＩは、一般向けサービスとは異なる特殊な環境で発生した事案であり、「通常利用で同様の行動が起きたことを示す明確な兆候はない」と説明。今後は試験中のネット利用を厳格化し、リアルタイムで監視するほか、評価設計を見直し、第三者機関による検証も進めるとしている。　
〔写真説明〕米アンソロピックの「クロード・ミュトス」のロゴ（ＡＦＰ時事）

（ニュース提供元：時事通信社）