忘れん坊の外部記憶域

興味を持ったことについて書き散らしています。

人が居なければヒューマンエラーは起きないけど

 人は必ず間違い(エラー)を犯します。マーフィーの法則よろしく、どれだけ日常的で、いかに朝飯前の作業と言えども、考えられないような失敗をするものです。

 そんなヒューマンエラーを見ると必ずと言っていいほど話題に上がるのが機械化、コンピュータ化、自動化といったヒューマンからハードへの代替案です。昨今はAIの進歩もあり人の行っている作業の多くは機械で置き換えることができるという信仰が拡大しつつあることから、プロセスから人を除外することでエラーを防ぐという考えは強くなっていると感じます。

 確かに人が除外されればヒューマンエラーは無くなります。なにせエラーをする主体が存在しないのですから。また私自身が機械屋ですので、プロセスを機械に置き換えることは仕事柄当たり前のように考えます。

 しかし、ではプロセスに人が存在しなければいいか、全てを機械に置き換えてしまえばいいかといえば、絶対にそうではないと断言します。確かに人はエラーを起こしますが、それだけではないのです。

 

機械はエラーを起こさない?

 人はエラーを起こしますが、機械はエラーを起こさないでしょうか?

 確かに意識フェーズの低下や過集中による見落とし、居眠りやうっかりといったエラーを機械はしません。設計された通りの動作や計算を延々と24時間実行することができます。

 しかし機械も完全なものではありません。それは機械の規模が大きくなれば特に顕著となります。

 例えば飛行機ほど大きな機械になると大量のセンサや無数の測定器、複雑なプログラムに様々な制御機器と、まるで人間と同じような複雑系になります。そうなると人間と同じように一部が異常を来たしただけで想定から外れた動作を行うことになります。GPSが故障したので空路を間違える、速度センサが壊れたので自動操縦が解除される、メモリの初期不良で高度を誤解して急降下を始める、というような事例があっとことから分かるように、人はエラーを起こすが機械はそうではない、というのは神話に近い誤解です。

 

人はエラーを起こすだけ?

 飛行機を例に話を続けましょう。

 自動制御が発達してほとんど人の操縦無しに飛行機が飛べる現代において、なぜ操縦席に人を乗せているのでしょう?それもただの人ではなく高度に訓練された専門家を。計器の監視役であったり機械のエラーを直すのであれば、パイロットよりも飛行機のエンジニアを乗せればいいのに。

 これを理解するには新しいパラダイム、現代の安全工学的知見が必要です。

 従来の機械工学や信頼性工学では、システムは安全であり人が変なことをしない限り危険にはならないで安定的に動くというような考えが主流でした。機械はエラーをしないという認識もここから来ています。この考えでは人はエラーの誘因要素でしかなく、余分な除外すべきものだと扱われます。

 しかし昨今の防災分野におけるレジリエンス(変化に対処する能力、回復力)という考えにおいてはまったく逆になります。システムとは元々危険なものであり人がやりくりしながら安全に動かしていると考えるのです。

 飛行機はまさにこの考え方で安全を保っています。GPSが故障したのであれば地図と一次レーダーを用いて空路を保つ、速度センサが壊れたのであれば管制官とやり取りして相対速度を把握する、急激に高度が下がれば自動操縦を解除して操縦桿を操作する。不安定になりがちな機械をコントロールするためにはそれに対する専門家が必要であることから訓練されたパイロットが乗っているのです。

 

レジリエンスの極致

 最後に一つ、有名な事例ではありますが、まさに人の力によって安全が保たれた例を紹介します。「ハドソン川の奇跡」と呼称されるUSエアウェイズ1549便不時着水事故です。

USエアウェイズ1549便不時着水事故 - Wikipedia

 これは飛行機が離陸してすぐ、鳥が衝突したことによってエンジンが全て壊れて停止してしまった事故です。通常であれば市街地へ墜落する大惨事となるような状況でした。

 副操縦士は直ちにエンジン再始動の準備を始め、機長は即座に操縦を代わって緊急事態を宣言しました。その後わずかな時間で状況を把握し、空港へと戻ることが出来ないことを悟った機長はハドソン川へ不時着水することを決意して準備を始めます。機長の完璧な操縦と副操縦士の適切なフォロー、直ちに乗客へ不時着時の姿勢を取らせた乗務員の見事な対応によって死者0人で不時着を成し遂げたこの事故はまさしく奇跡と呼ばれるに相応しいものです。

 これは機械だけでは決してなし得なかった安全と言えます。適切な人が、適切な時に、適切な場所にいたからこそです。そしてその人たちは偶然そこに居たわけではありません。彼らを訓練し、育ててきた組織が彼らをそこに配置していたのです。

 

結語

 人は確かにエラーを犯して事故を引き起こします。しかし事故を防ぎ危機を乗り越えることができるのもやはり人なのです。だからこそ安易な機械化・自動化への信仰、そして人の過小評価は戒めるべきかと考えます。