[책] 법정에 선 수학

보통 수학이라고 하면 꼴도 보기 싫어하면서 구구단 정도 말고는 수학은 써먹을 데도 없는 거 아니냐고 말하는 사람이 있다. 근의 공식으로 2차방정식을 풀 일은 없을 거라고 하면 할 말은 없다. 하지만 수학을 통해 배운 논리적이고 체계적인 사고방식은 알게모르게 그 사람의 인생에 묻어나올거라 믿는다. 그 외에도 실제 수학 분야별로 현실에서 사용되는 분야들은 많다.

 

1. 미적분학 (Calculus)

• 주요 개념: 변화율, 기울기, 넓이, 부피, 최적화
• 현실 활용 예시:
  • 물리학 및 공학: 물체의 운동 분석 (속도, 가속도), 로켓 궤도 계산, 다리나 건물 설계 시 구조물의 안정성 분석, 전기 회로 분석.
  • 경제학: 한계 비용, 한계 수익 분석을 통한 기업의 이윤 극대화, 수요-공급 곡선 분석.
  • 의학: 약물의 체내 농도 변화 모델링, 종양 성장 예측.

2. 선형대수학 (Linear Algebra)

• 주요 개념: 벡터, 행렬, 벡터 공간, 선형 변환, 고유값/고유벡터
• 현실 활용 예시:
  • 컴퓨터 과학 및 AI:
    • 이미지 처리: 이미지의 크기 조절, 회전, 필터링 등 (픽셀 데이터를 행렬로 표현).
    • 머신러닝 및 딥러닝: 신경망 연산 (가중치 행렬), 데이터 압축, 주성분 분석(PCA)을 통한 차원 축소, 추천 시스템 (사용자-아이템 행렬).
    • 자연어 처리: 단어를 벡터 공간에 표현하여 단어 간의 유사성 계산.
  • 그래픽스: 3D 게임 및 영화에서 객체의 위치, 회전, 크기 변화를 제어.
  • 경제학: 선형 계획법을 이용한 자원 배분 최적화.
  • 암호학: 데이터 암호화 및 복호화 알고리즘.

3. 확률 및 통계학 (Probability & Statistics)

• 주요 개념: 확률 분포, 가설 검정, 회귀 분석, 데이터 분석, 표본 추출
• 현실 활용 예시:
  • 재무 및 투자: 주식 가격 예측, 포트폴리오 최적화, 위험 관리, 파생 상품 가격 책정, 시장 분석.
  • 의학 및 생명 과학: 임상 시험 결과 분석, 질병 발병률 예측, 유전학 연구.
  • 사회 과학: 여론 조사, 인구 통계학, 사회 현상 분석.
  • 품질 관리: 제품의 불량률 예측 및 개선.
  • 스포츠: 선수 성과 분석, 경기 결과 예측.
  • 보험: 보험료 산정 및 위험 평가.

---

간단히 생각하는 분야들만 예를 들었는데 요즘 느끼는 건 확률 및 통계학, 즉 '확통'은 수학 분야 중 일반적인 실생활에 밀접한 관계가 있고 그 때문에 더더욱 공부를 해야 하는 게 아닌가 싶다.

 

법정에 선 수학 | 레일라 슈넵스.코랄리 콜메즈

 

그런 의미에서 '법정에 선 수학'은 한번 읽어보고 직관적으로 떠올리는 확률과 엄밀한 계산에 따른 확률이 얼마나 큰 차이를 보일 수 있는지 실감할 필요가 있다. 투자자가 자산배분, CAGR, 변동성 등을 이야기하려면 정규분포를 시작으로 통계에 대한 기본적인 지식은 숙지하고 있어야 하는 걸 고려하면 더더욱.

 

나 역시 아직도 베이즈 정리와 몬티홀 문제 같은 건 설명을 찬찬히 읽어보면 겨우 '아~ 그렇구나~' 하지만 돌아서서 정리하거나 누군가에게 설명하려면 아직 어렵다. 당연히 실제로 이런 상황이 닥쳐도 평범한 오류로 결론을 낼 터이고. 스스로가 한심하다고 느껴지기도 하지만 다른 한편으론 많은 수학자들도 (심지어 통계학자까지도) 틀리는 경우가 많다고 하니 약간 안도가 되기도 한다. 

인간의 상식과 직관으로 바로 떠올리기 힘든 영역으로 상대성이론, 복리, 확통 정도가 아닐까 싶다.

 

몇가지 유명한 인식의 오류 사례를 정리해보자.

---

1) 베이즈 정리 — 검사 양성의 함정이다

설명. 검사 결과만 봐서는 확률을 오해하기 쉽다. 사전확률(유병률)을 반드시 반영해야 한다.
수치 예시. 유병률 1%, 민감도 99%, 특이도 95%라 가정한다.

• 질병자 중 양성 비율 = 0.01 × 0.99 = 0.0099.
• 비질병자 중 위양성 비율 = 0.99 × 0.05 = 0.0495.
• 전체 양성 비율 = 0.0099 + 0.0495 = 0.0594.
• 질병일 확률 = 0.0099 / 0.0594 = 0.166666... ≈ 16.7%.
  해석. 검사 양성이 나와도 실제 병일 확률은 약 17%다. 직관보다 훨씬 낮다.

2) 몬티홀 문제 — 바꾸면 이긴다이다

설명. 세 문 중 하나 정답을 고르고 호스트가 엉뚱한 문을 연다. 바꾸면 확률이 2/3이 된다.
수치 논리. 처음 고른 문이 정답일 확률 1/3이다. 호스트가 엉뚱한 문을 연 뒤 바꾸면 처음이 틀렸던 2/3의 경우 모두 정답을 얻는다. 결론: 바꾸면 2/3, 유지하면 1/3이다.
직관 오류. 사람들은 상황을 동등한 두 선택으로 오해한다.

3) 생일 문제(파라독스) — 의외로 공유일이 흔하다이다

설명. 비교적 적은 인원에서도 같은 생일을 가진 쌍이 나올 확률이 높다.
수치 예시. 23명일 때 같은 생일을 가진 사람이 있을 확률 ≈ 50.7%다.
계산 요약. 서로 다른 생일까지 확률 ≈ 365/365 × 364/365 × ... × (365−22)/365 ≈ 0.4927. 따라서 같은 생일 확률 ≈ 1 − 0.4927 ≈ 0.5073.

4) 베이스레이트 무시(검사·증거 해석 오류) — 검증할 때 기본 비율을 잊는다이다

설명. 특정 증거가 드물게 나타난다고 해서 그 증거로 유죄 확률이 높다고 단순화하면 안 된다.
예시. DNA 일치 확률이 매우 낮더라도, 모집단 수와 사전확률을 고려해야 한다. 베이즈 정리 적용과 동일한 논리다.
법정적용. 검사·검증 결과를 P(증거|무죄)와 P(무죄|증거)로 혼동하면 큰 실수다.

5) 심슨의 역설 — 부분과 전체가 반대이다

설명. 하위그룹에서의 경향과 전체집계의 경향이 정반대로 나타날 수 있다.
예시(개념). 두 학과의 합격률을 보면, 각 학과별로는 여성이 더 높게 합격하지만, 여성이 경쟁이 치열한 학과에 몰려 전체 합격률은 낮게 나올 수 있다.
해석. 집계 수준과 분해 수준을 혼동하면 잘못된 결론을 낸다.

6) 검사자(검사의) 오류(검사의 함정, prosecutor’s fallacy) — P(E|H₀)=작다 ≠ P(H₀|E)=작다이다

설명. “무죄일 때 이런 증거가 나올 확률이 매우 낮다”는 사실을 “그 증거가 있으므로 무죄일 확률이 낮다”로 곧장 바꾸면 안 된다.
수치 요지. 전자는 P(Evidence|Innocent). 후자는 P(Innocent|Evidence). 둘은 베이즈 정리가 연결한다. 혼동 시 오판 가능성 크다.

7) 결합 오류(Conjunction fallacy) — 더 구체적일수록 더 가능하다고 판단한다 아니다

설명. 두 사건의 결합 확률은 개별 사건 확률보다 커질 수 없다. 그런데 사람들은 “은행원이고 페미니스트”가 “은행원”보다 더 가능성 있다고 본다.
수치 요지. P(A and B) ≤ P(A)이다. 직관은 ‘구체성’에 현혹된다.