■永遠に生きる自分は幸せか？

おまけに、むずかしすぎてなんだかこの本の読み方を間違えてしまった筆者は、少しよからぬことまで想像してみたくなったのです。次のようなことです。

筆者が事業で大成功し、富豪になったとしましょう。そして余命いくばくもなくなったある日、たとえ自分が死んでも富豪としての影響力を末永く行使できるように、あり余るお金を機械の中で生きることに充てた。機械の中のワタシは、最初のうちは畏敬の念を持って部下たちに迎えられるでしょう。最高度のセキュリティシステムに囲まれた静かな部屋で、テレビ会議システムとリンクしながら、幹部たちと経営上の意見を交わしたり、命令を下したりする。もちろん口ではしゃべれないから、テキストメッセージや機械で合成した音声で表現するしかありません。

しかし時代が変われば人の意識も変わります。肉体を持たないワタシの意識は世の中の空気が全く読めません。世界の出来事は自分にとってはすべてデータ、しょせん「0」と「1」の2つの数字の組合わせでしかないからです。ワタシの意識は、次第に生きた人間たちから乖離していきます。

そしてある時、ワタシの意見に賛同できない幹部たちと喧嘩になります。どんなに「わしの命令が聞けんのか！」とテキストや機械音声で主張しても、幹部たちは聞く耳を持ちません。最後には「この世の中はわれわれ生きている人間のものだ。あなたは人間の手で作られた単なる機械ではないか。そんな機械の指図など受けてなるものか！」と、言ってはいけないことを口にしてしまうのです。

そしてとうとう、反乱が起こる。経営幹部の一人が業を煮やして、ワタシの意識の維持装置を管理するシステムエンジニアをそそのかしてセキュリティシステムを切らせ、この装置を破壊してしまうのです。これは殺人でしょうか。それとも器物損壊に当たるのでしょうか。どちらにしても、悲惨な結末であることに変わりはありません。

こんなことを考えていると、「僕などは、とても機械の中で生きたいとは思わないなあ…」とため息混じりにつぶやくしかなかったのです。

さて、「AIブームとリスクのあれこれ」はこれで終わりです。今までご紹介してきたエピソードは、数あるAIの応用のうち、マスコミに取り上げられたほんの一部のものに過ぎません。富士山に例えれば、目の覚めるような白い雪をかぶった頂上付近の話です。実際は、中腹や裾野にも、これまたAIを利用したアプリケーションが多数ひしめいていることは間違いありません。

AIをより便利に、より安全に社会に役立てていこうと思ったら、夢と期待を抱きつつも、つねに私たち一人ひとりがその成り行きを見守っていくこが必要でしょう。無関心でいると、ひょっとしてたいへんなことになるかもしれませんからね。

（終わり）