수학이 재판에서 오용될 수도 있다

 

누군가가 확률과 함께 발생할 혹은 발생하지 않을 가능성에 대해 이야기하면 꽤 설득력 있게 받아들여진다. ‘이 질병이 발생할 가능성은 매우 희박합니다’와 ‘이 질병이 발생할 가능성은 10억 분의 1입니다’라는 이야기 중 후자의 발생 가능성이 더 희박하다고 느껴진다.

 

그동안 확률 계산의 오류에 대해서는 의심하지 않았다. 물론 통계를 검증할 능력이 내게는 없기도 하거니와 전문가에 의해 산출된 값이기에 의심하지 않았던 것 같다.

 

그런데 <법정에 선 수학>을 통해 맹신에 가까운 통계에 대한 믿음을 깨트리는 계기가 되었다. 수학자도 통계 산출에 있어 실수이든 오해이든 오류를 범할 수 있고, 통계 산출 과정에 오류가 없어도 현실에 적용하는데 있어서는 적절하지 않은 경우도 있음을 알게 되었다.

 

<법정에 선 수학>은 부제처럼 ‘수학이 판결을 뒤바뀐 세기의 재판 10’가지 사례를 다루고 있다. 통계 산출에 있어 독립적이지 않은 사건을 곱함으로써 결백한 사람을 범죄자로 만든 사건들과 숫자를 조작하지 않았음에도 전체적으로 왜곡되어 보이는 심슨의 역설을 보여주는 사건, 그리고 잘 알려진 폰지 사기 사건, 드레퓌스 사건을 다루고 있다.

 

확률은 본능적인 직관과 반대의 결과를 보여 주기도 한다.
설령 어떤 사건이 발생할 확률이 정확하게 계산되었더라도,
개개의 사건이 독립적이지 않다면
이들 각각의 확률을 곧바로 곱해서는 안 된다.(100쪽)

 

명백한 증거는 없지만 상황 증거들로 계산된 확률은 이들이 범인임을 보여주는 명백한 증거로 보였다. 그러나 독립적이지 않은 사건을 곱하는 오류로 산출된 확률은 발생 빈도가 빈번한 사건을 매우 희박한 사건으로 보이도록 해 무고한 사람도, 그저 평범한 사람도 범죄자로 만들 수 있음에 놀랐다.

 

특정 간호사가 근무하는 시간에 사망 환자가 많이 발생한다는 의심이 결국 명백한 살인의 증거가 없음에도 자연적으로 발생하기 어려운 확률이라며 살인죄로 기소된 루시아 더베르크 사건. 이 사건은 독립되지 않은 사건을 곱해서 구한 확률이 문제였다고 한다.

 

또한 어떤 사건이 일어난 후에 발생 확률을 계산하고 그 확률이 낮아서 일어나기 힘들다고 주장하는 것은 의미가 없음을 깨닫는다. 내 친구 A가 복권에 당첨이 되었는데, 복권에 당첨될 확률이 800만분의 1이라서 A가 복권에 당첨되기 힘들다고 이야기하는 것은 의미가 없다는 것이다. A는 이미 복권에 당첨되었기 때문이다.

 

“샐리 클라크에게 어떤 사건이 일어났고,
그런 사건이 일어날 확률은 7,300만분의 1이야.
그러니 그런 일이 저절로 일어났다고는 보지 않는 편이 합리적이야.
결국 샐리 클라크가 저지른 일임이 분명해.”(…)

“복권이 100만장 팔렸고 X가 당첨되었다.
복권이 당첨될 확률은 100만분의 1 밖에 되지 않는데,
이렇게 낮은 확률의 사건이 자연히 발생했다고 생각하기는 어렵다.
그러니 X가 뭔가 속임수를 저지른 것이다.”(…)
어떤 사건이 일어나고 난 뒤에 그런 사건이 일어났을 확률을 계산하고서는,
그런 일은 너무 확률이 낮아서 일어나기 힘들다고 이야기할 수는 없는 노릇이다.
복권 당첨은 누구나 당연하게 받아들이지 않는가.(193쪽)

 

저자는 수학이 재판에 사용되는 것이 적절한 일인지 고민하면서 아직은 조심스럽게 접근해야 한다는 점을 강조한다. 수학적 지식이 부족한 배심원과 판사에게 제시된 수학은 이들에게 잘못된 믿음을 심어줌으로써 재판에 오용될 수 있다는 것이다.

 

저자는 최근 DNA 분석 기법이 일반화되면서 다시금 수학이 법정에 등장하고 있는데, 수학이 재판에서 오용될 수 있음을 경계해 조심스럽게 접근해야 한다고 주장한다. 수학이 재판에서 오용된 사례를 담은 책을 계속 집필할 계획이라고 하는데, 후속작도 기대된다.

 

수학의 힘은 쎄다. 수학과 확률을 무비판적으로 받아들이는 것은 수학에 대한 무지의 결과가 아닌가 싶다. 수학적 지식 혹은 수학의 오류 가능성에 대해 아는 것 만으로도 수학과 확률에 합리적 의심을 가질 수 있으리라 믿는다.