忘れん坊の外部記憶域

興味を持ったことについて書き散らしています。

確証バイアスをどう避けるか~技術屋の見解

 自分の考えや仮説、信念を検証する際にそれを支持する情報ばかりを集めて、反対する情報を無視したり集めようとしない傾向のことを確証バイアスといいます。認知バイアスの一種で、人間である以上避けにくい問題の一つです。

確証バイアス - Wikipedia

  最近であればワクチンの安全性についての情報が分かりやすいかと思います。ワクチンが問題無いと思う人は「ワクチン 安全」というようなキーワードで情報を探しますし、反対にワクチンが怖いと思う人は「ワクチン 危険」というようなキーワードで探すでしょう。

 確証バイアスを避けるのが難しいのは、ワクチンが安全かどうかの情報を集めるその前段階、その情報をどう探すかの時点ですでに確証バイアスが働いてしまうことが理由です。

 これはとても難しい問題です。誰だって自分の考えを否定されるのはイヤですし、同意を得たいと考えてしまいます。

 

 ここで役に立つのが科学的な思考方法です。少し古い科学哲学ではありますが、イギリスの哲学者カール・ポパーが提唱した反証可能性の考え方を持っていると確証バイアスに多少なりとも抵抗することができます。

 反証可能性については過去の記事でも少し書いています。

 科学とは「自らが誤っていることを確認するテストを考案し、実行することができる」ものを指します。つまり科学的であるためには必ず反証、反対意見を用意しなければいけません。

 

 実のところ確証バイアスによって集まる情報というのは科学的には決して自説を補強するものにはなり得ません。同じ意見の人が多数居るというだけであり、それは安心感をもたらすものではありますが、科学的に正しいかどうかは多数決では決まらないのです。

 

 技術屋・設計屋は自分が設計した製品に対してデザインレビュー(設計審査)というものを行います。製品を販売する前に製造や調達、品質保証や管理保守、企画や営業など全ての関係部門を集めて設計の良否を判定するのです。

 その際に行われるのは徹底的な反証の積み上げです。

 例えば製品寿命を評価する場合、設計者は「こういう条件下でこういう試験を行った結果から10年は壊れません」と説明します。それに対して出席者は「もしかしたらこういう使用環境にならないか」「ユーザーがこう使ったら壊れないか」「そもそも10年も持つ必要があるのか」というように、評価がまったく問題無いと思っていたとしても考え付く限り様々な角度からの反証を提示します。

 設計側からしたら正直しんどいのですが、とてもありがたくもあります。これら反証を全て倒すことができればその製品設計の信頼性は極めて高いものになるからです。

 

結論 

 つまり自説を補強するには、同意見を集めて固めるのではなく、反対意見を集めて自説の穴を塞ぐ方法こそが適しています。自説の補強に確証バイアスは何の役にも立ちません。確証バイアスに陥らないようにするには、意識的、もしくはデザインレビューのようにシステマチックに、反対意見を率先して集めなければいけません。ワクチンを安全だと思うのであれば反対派がなぜ反対しているかの情報を集めるべきですし、ワクチンを危険だと思うのであれば賛成派がなぜ賛成しているかを調べた方がいいです。

 

 度々記事にしていますが、両論併記はまさにこの反証を集めるのに役立つからこそ必要だと考えています。片方の情報だけを提示するのは確証バイアスに陥る簡単なやり方といえるでしょう。