Shit happens　－最悪の事態も起きるー

スリーマイル島の普通の事故

スリーマイル島

1979年3月、ペンシルバニア州のミドルタウンにあるスリーマイル島原子力発電所での機械の故障は第二原子炉（TMI-2）の冷却水の喪失という事故になった。その結果、炉心が部分的に溶融し大気中に放射性のガスが放出された。非常に過酷な事故であり、国際原子力事象評価尺度の７段階のうちの５段階にランク付けされた。

その後、いくつかの州と連邦の機関がクライシスの大がかりな調査を行った。最も著名なのはスリーマイル島事故大統領諮問委員会のものである。大方の人はその事故は他の多くの事故と同様に、いくつもの小さな事故が滝のように連なって大災害になったものだと結論付けた。

原子炉を製造したバブコック・アンド・ウイルコックスは事故を個別のものであると言った。装置の故障に始まり、作業員が正規の手続きに従わなかったことがそれを複雑にした。作業員がその仕事をしていれば事故は起きなかっただろうとのことである。

事故を個別のものであるとすることによってバブコック・アンド・ウイルコックスは、ブラックスワンの典型的なふるまいを見せてくれている。すなわち事後的に説明を作り上げることによって、予想可能なものだと思わせるのである。誰かが誤ったのだ。装置が故障した。設計に瑕疵（かし）があった。しかし、それについて何かできたはずだ。問題は是正が可能なはずだと、彼らは主張する。

それを妄想だとする人もいる。装置の故障は些細なものだった。作業員はやるべきことをやっただけだ。エール大学教授で社会学が専門のチャールズ・ペロウは、その事故は当時現場にいたバブコック・アンド・ウイルコックスの専門家にとってさえ、ミステリアスで不可解なものであったと述べている。

その災害はもっぱら工場の高度に連結されたシステムの複雑性によってのみ引き起こされたものであり、何ら異常なものではないし、予想できるものであったと主張する。

それは起こるべくして起きたのであり、今後も起こるべくして起きるであろう。システム自体の性質から出現したものだからである。それは予期もできないし防止することもできない。さらに言えば、部品と部品が固く結合されている複雑なシステムにおいて起こりうることの全てを予想した上で設計し建造することは不可能である。

さらに悪いことには、これらの”普通の事故“はそれが起きる時、理解が不能である。作業員がいつも何か他のこと（彼らの理解の範疇にあることで、それに従って行動すること）が起きていると思ってしまうのはそのためである。不可解であるという意味において、普通の事故はコントロールができない。

安全システム、バックアップシステム、装置の品質、良い訓練、これらはみんな事故を防止するのに役立つものであるが、システムの複雑性は全てのコントロールの限度を超えるものである。

原因の神話

原因の神話からわれわれが学ぶのは、原因を知ることができないからといって、ブラックスワンの心配をする必要はないということではない。われわれの重要なインフラを構成する高度に連結されたシステムは、40年前のTMI-2のものよりはるかに複雑なものである。どの複雑なシステムにも、それ自身の破壊の種が含まれている。その性質のゆえに、大災害の断崖へ、遠ざかるのではなく突き進んでいる。大規模な崩壊が予期せず、大音響で発生するその引き金としては微小な無作為の振動でさえ必要とされない。

有毒化学物質・人工知能や核兵器のようなものを扱うハイリスクのシステムで事故が起きれば、その結果は壊滅的なものとなる。

モントレーのミドルベリー国際関係研究所の学者であるジェフリー・ルイスによれば、われわれの核兵器の備蓄は破壊のためのますます精巧な装置となっており、あまりに複雑に大きくなっているので既存の人間のシステムでは制御できない、あるいは一人の人間が十分には理解できないものとなっている。