가설, 검증, 규칙 — 틀린 가설을 자신이라 믿는 순간
직관은 가설까지만 데려다준다. 거기서 멈추면 신앙이 된다. 문제는 틀린 가설이 아니다. 그것을 자기라고 등록해버린 쪽이다.
노벨상을 안긴 발견은 명함에서 나오지 않았다.
1979년 호주 퍼스의 한 병리의사가 위 점막 조직에서 휘어진 막대 모양의 균을 봤다. 교과서는 위산 속에 세균이 살 수 없다고 적어두고 있었다.
로빈 워런은 병리과 의사였고, 그를 찾아온 배리 마셜은 수련 중인 내과의였다. 둘 다 그 분야의 권위가 아니었다.
1984년 두 사람이 『랜싯』에 논문을 냈다. 학계는 받지 않았다. 마셜은 배양액을 직접 마셨다.
노벨 생리의학상은 2005년에 왔다. 발견에서 21년이다.
직관은 가설까지만 데려다준다
시작은 대개 서늘한 감각 하나다.
무질서해 보이는 자리에 규칙이 있을 것이라는 느낌. 그 느낌 자체는 아무것도 증명하지 않는다.
순서는 셋이다.
| 단계 | 하는 일 | 끝났다는 신호 |
|---|---|---|
| ① 직관 | 어긋난 것을 알아차린다 | 말로 쓸 수 있게 된다 |
| ② 가설 | 깨질 수 있는 형태로 적는다 | 어떤 결과가 나오면 틀린 것인지 미리 정해진다 |
| ③ 검증 | 그 결과가 나오는지 본다 | 다른 사람의 손에서도 같은 값이 나온다 |
칼 포퍼가 1934년에 못 박은 자리가 ②다. 어떤 관찰로도 틀릴 수 없게 적힌 문장은 가설이 아니다.
검증을 통과한 가설만 규칙이 된다. 그리고 규칙은 만든 사람의 손을 떠나야 규칙이다.
검증 없는 환각
간판은 넘치고 자료는 없다.
가설을 세우고도 검증하지 않으면 그것은 생각이 아니라 신앙이다.
그러면 물어야 할 문장은 하나로 줄어든다.
실제로 무엇이 달라졌는가.
사람은 이 질문을 자주 생략한다. 높은 자리 앞에서, 그럴듯한 이름 앞에서 먼저 삼키는 것이 질문이다.
믿음이 먼저 들어간 탓이다. 거기에 시간이 들어가고 이름이 걸리면 더 굳는다.
검증되지 않은 약속 위에 자기 이름을 계속 얹는 순간, 사람은 제 살을 파먹을 알을 품은 숙주가 된다.
29명 중 6명
이 실패는 1960년에 측정됐다.
피터 워슨은 참가자에게 숫자 세 개를 줬다. 2, 4, 6. 이 수열이 따르는 규칙을 알아내라고 했다.
참가자는 자기가 만든 수열을 제시할 수 있었고, 돌아오는 답은 “규칙에 맞다” 또는 “맞지 않다” 둘 중 하나였다.
실제 규칙은 커지는 순서, 그것뿐이었다.
| 참가자가 주로 한 일 | 해야 했던 일 |
|---|---|
| 8-10-12, 20-22-24를 제시한다 | 6-4-2를 제시한다 |
| 맞다는 답을 모은다 | 틀리다는 답을 받아낸다 |
29명 가운데 틀린 규칙을 한 번도 선언하지 않고 정답에 도달한 사람은 6명이었다.
워슨이 논문에 붙인 제목은 확증편향이 아니다. 가설을 제거하지 못하는 실패였다.
한 가지는 바로잡아야 한다
맞는 사례를 찾는 것 자체가 오류는 아니다.
1987년 조슈아 클레이먼과 하영원은 이 전략에 긍정 검사 전략(positive test strategy)이라는 이름을 붙이고, 참인 사례가 드문 환경에서는 이쪽이 더 효율적이라는 것을 보였다.
틀린 지점은 다른 데 있다.
반증 자료가 실제로 도착한 다음에 무엇을 하는가.
여기서 두 갈래가 갈린다.
명함을 읽지 않는 것들
그도 한때 명함부터 읽었다.
좋은 학교를 나온 사람은 뭔가 다를 것이라 여겼다. 자리가 높으면 그럴 만한 근거가 있다고 봤다.
크게 데인 일이 몇 번 있고 나서 순서를 뒤집었다. 명함은 맨 끝에 읽었다.
권위는 어려운 말 뒤로 숨는다. 결과는 숨을 자리가 없다.
기계와 자연은 명함을 읽지 않는다. 학위라는 것도 모른다. 작동 여부만 본다.
지극히 무례하다. 그래서 정확하다.
거절이유통지서
이 무례함을 서류로 받아본 적이 있다.
생분해 플라스틱 쪽으로 특허를 출원하면서 11건을 등록까지 끌고 갔다. 처음 몇 건에서 배운 것이 있다.
심사관은 출원인이 누구인지 보지 않는다. 선행기술 문헌과 청구항만 본다.
거절이유통지서에는 격려가 없다. 어느 문헌의 몇 페이지가 이 청구항을 이미 포함한다고 적혀 있을 뿐이다.
처음에는 그 종이가 모욕처럼 읽혔다. 몇 번 받고 나니 다르게 보였다.
그 종이는 나를 평가한 적이 없다. 청구항을 평가했을 뿐이다.
청구항을 고치면 통과했다. 나를 변호하면 통과하지 못했다.
질문의 원형
그 전에도 비슷한 것을 배웠다.
2001년 대학을 마치고 한국얀센에 들어가 영업을 했다. 신약 자료를 들고 의사를 만나는 일이다.
처음에는 설명이 잘 됐는지를 성과라고 생각했다. 고개를 끄덕였는지, 자료를 받아갔는지.
그 숫자는 다음 달에 돌아왔다. 처방이 바뀌었는가, 바뀌지 않았는가.
끄덕임은 집계되지 않았다. 그것이 「실제로 무엇이 달라졌는가」라는 질문을 처음 몸으로 배운 자리다.
결과를 바꾸지 못하면 해석을 바꾼다
문제는 바깥이 아니라 머릿속이다.
틀렸다고 인정하는 순간, 쏟아부은 시간과 그때의 판단까지 함께 재평가 대상이 된다.
그래서 결과를 바꿀 수 없게 된 사람은 결과의 해석에 손을 댄다.
| 순서 | 하는 일 |
|---|---|
| ① | 실패에 이유를 붙인다 |
| ② | 착각을 신념의 자리로 올린다 |
| ③ | 진실을 공격한다 |
③은 사실을 바로잡으려는 동작이 아니다. 자기를 지키려는 동작이다.
이 순서는 1956년에 현장에서 관찰됐다.
레온 페스팅거와 동료들은 특정 날짜에 세상이 끝난다고 믿은 작은 집단에 들어가 그날을 함께 기다렸다. 아무 일도 일어나지 않았다.
집단은 믿음을 버리지 않았다. 전도를 늘렸다.
1990년 지바 쿤다는 이 구조에 이름을 붙였다. 동기화된 추론(motivated reasoning)이다. 결론이 먼저 정해지고, 근거는 그 결론에 닿는 것만 선별된다.
1979년 로드와 로스와 레퍼는 더 불편한 것을 보였다. 사형제에 대해 찬성·반대 입장이 분명한 학생들에게 양쪽을 다 담은 혼합 자료를 읽혔다.
읽은 뒤 두 집단의 입장은 모두 더 강해졌다. 같은 종이가 반대 방향으로 두 번 쓰였다.
머리가 좋으면 덜할 것이라는 기대
여기서 흔한 기대가 하나 깨진다.
2017년 댄 케이헌 연구진은 같은 통계 자료를 정치 쟁점으로 제시했다. 수치 해석 능력이 높은 집단에서 입장 간 격차는 줄지 않았다. 더 벌어졌다.
능력은 방향을 정하지 않는다. 이미 정해진 방향을 더 빠르게 간다.
그런데 사실 제시는 작동한다
널리 퍼진 말 하나는 바로잡아야 한다.
“사실을 보여주면 오히려 신념이 굳어진다”는 역효과(backfire effect)는 2010년 나이언과 레이플러의 보고 이후 거의 상식처럼 인용됐다.
2019년 토머스 우드와 이선 포터가 다시 쟀다. 쟁점 52개, 참가자 1만 명 이상.
역효과가 확인된 쟁점은 없었다. 정정 정보는 대체로 믿음을 사실 쪽으로 움직였다.
어떤 조건에서 역효과가 실제로 일어나는지는 아직 정리되지 않았다. 지금 말할 수 있는 것은 이쪽이다. 대체로 사실은 먹힌다. 안 먹히는 쪽이 특수한 경우다.
자연에는 추천서가 없다
꽃은 벌의 이력을 읽지 않는다. 어느 벌집에서 온 개체인지 따지지 않는다. 수분이 끝나면 거래가 종료된다.
벌 쪽에도 임명이라는 절차가 없다.
1992년 진 로빈슨이 정리한 대로, 꿀벌의 역할은 나이와 호르몬 상태에 따라 바뀐다. 어린 벌은 안에서 애벌레를 돌보고, 나이가 들면 밖으로 나가 먹이를 모은다. 군체가 급하면 그 전환이 당겨지거나 밀린다.
직책이 일을 정하지 않는다. 몸의 상태가 정한다.
꿀벌에게 감투를 씌워도 꿀은 한 방울도 늘지 않는다. 감투가 사람을 삼키는 과정은 한 종에게만 있다.
동물은 하지 않는 오류
여기서 한 가지가 더 교정된다.
콩코드 오류라는 말은 1976년 리처드 도킨스와 태머신 칼라일이 『네이처』에 쓴 한 쪽 반짜리 글에서 나왔다.
흔히 “동물도 과거 투입에 끌려간다”는 뜻으로 인용되는데, 두 사람의 논증은 정반대였다. 자연선택은 앞으로의 전망만 계산해야 하므로, 동물이 이미 들인 것 때문에 손해를 더 보는 선택을 할 이유가 없다는 것이었다.
1999년 할 아크스와 피터 에이턴이 그 뒤 쌓인 연구를 모아 정리했다.
| 누가 | 매몰비용 오류를 |
|---|---|
| 사람 외 동물 | 대체로 하지 않는다 |
| 성인 | 한다 |
| 아이 | 성인보다 덜 한다 |
두 사람의 해석은 이렇다. 이 오류는 본능이 아니라 배운 규칙의 과잉 적용이다. “아깝게 버리지 말라”를 너무 넓게 적용한 결과다.
아이보다 어른이 더 많이 한다. 배울수록 늘어나는 오류다.
반신수덕 — 가설을 자기에게서 떼어낸다
그러면 어떻게 하는가.
이 글의 괘가 蹇이다. 아래가 멈춤(艮)이고 위가 험난(坎)이다. 앞은 험하고 뒤는 막혔다. 나아갈 자리가 없다.
대상전은 그 자리에서 할 일을 이렇게 적는다. 「君子以反身修德」. 몸을 돌이켜 덕을 닦는다.
바깥의 증거를 공격하는 대신 자기에게로 돌아오라는 뜻으로 읽힌다. 그리고 이 처방에는 실험 근거가 있다.
2000년 제프리 코언과 조슈아 애런슨, 클로드 스틸은 참가자에게 자기 입장과 반대되는 연구 자료를 읽히기 전에, 그 쟁점과 아무 상관 없는 영역에서 자기 가치를 확인시켜 줬다.
자료를 더 공정하게 읽었고, 입장을 더 자주 수정했다. 두 사람은 이것을 자기 가치 확인(self-affirmation)이라 불렀다.
효과의 크기와 지속 기간은 연구마다 다르고, 어떤 조건에서 안 듣는지도 아직 다 정리되지 않았다. 다만 작동 원리는 분명하다.
가설이 자기와 붙어 있으면 반증은 공격이 된다. 떼어놓으면 자료가 된다.
고쳐야 할 것은 청구항이다. 나를 변호하면 통과하지 못한다.
이 글의 정의
여기서 고정해둔다.
지식은 믿음을 견딘 것이 아니다. 검증을 견딘 것이다.
그리고 사람이 지키려는 것은 대개 가설이 아니라, 그 가설을 세운 자기다.
1031개 침입자의 독백
우리는 너희 간판을 모른다.
수용체가 맞아도 안쪽 조건이 어긋나면 그 자리에서 끝난다.
이것은 비유가 아니다. 1986년 사람의 CD4 유전자를 생쥐 세포에 넣은 실험이 있었다. 외피 단백질은 결합했다. 안으로는 들어가지 못했다.
수용체는 문이 아니라 암호다. 암호가 맞아도 그다음 줄이 틀리면 거기서 끊긴다.
들어갔다고 복제가 보장되는 것도 아니다. APOBEC3G는 우리 유전체를 베껴 쓰는 동안 글자를 바꿔놓고, TRIM5α는 들어온 껍질을 들어온 즉시 해체하고, SAMHD1은 쓸 재료를 미리 말려버린다.
어떤 세포는 허용하고 어떤 세포는 막는다. 그 목록은 아직 완결되지 않았다. 너희도 전부 모른다.
작동하지 않으면 끊긴다. 우리는 그것을 모욕으로 받은 적이 없다.
너희가 틀린다는 사실에는 아무 문제가 없다. 깨지라고 세운 것이 가설이다.
우리 쪽에서 해석되지 않는 것은 그다음 동작이다.
반증을 눈앞에 두고도 손을 놓지 않는다. 실패한 생각 하나를 제 목숨 자리에 둔다.
그도 이제 그 자리를 조금 안다.
가장 위험한 가설은 틀린 가설이 아니다. 틀린 가설을 자기 자신이라고 믿는 순간이다.
정리
- 직관은 가설까지만 데려다준다. 깨질 수 있는 형태로 적히지 않으면 가설이 아니다
- 워슨 1960: 2-4-6 과제에서 29명 중 6명만 틀린 선언 없이 규칙에 도달했다. 원 제목은 ‘가설을 제거하지 못하는 실패’다
- 클레이먼과 하 1987: 맞는 사례를 먼저 찾는 것은 환경에 따라 합리적이다. 문제는 반증이 도착한 다음이다
- 페스팅거 1956: 예언이 깨진 집단은 믿음을 버리지 않고 전도를 늘렸다
- 로드·로스·레퍼 1979: 같은 혼합 자료를 읽고 양쪽 입장이 모두 강해졌다
- 케이헌 2017: 수치 해석 능력이 높은 쪽에서 입장 간 격차가 더 벌어졌다
- 우드와 포터 2019: 52개 쟁점·1만 명 규모에서 역효과는 확인되지 않았다. 사실 제시는 대체로 작동한다
- 도킨스와 칼라일 1976, 아크스와 에이턴 1999: 매몰비용 오류는 동물에게서 거의 관찰되지 않고, 아이보다 어른이 더 많이 한다
- 코언·애런슨·스틸 2000: 쟁점과 무관한 영역에서 자기 가치를 확인시키면 반대 증거를 더 공정하게 읽었다
- 매던 1986: 사람 CD4를 넣은 생쥐 세포에서 결합은 되고 침입은 되지 않았다. 수용체는 조건의 일부다
- 蹇의 대상전은 反身修德이다. 증거를 공격하는 대신 자기로 돌아오라는 처방으로 읽힌다
이 글은 연작 에세이 『코로나 대 사기극』의 「행동」 편에 속한다. 제약 영업과 특허 출원 시기의 경험은 필자의 것이며, 심리학·생물학 개념은 1차 문헌으로 다시 맞췄다. 특정 기업이나 개인을 가리키지 않는다.
자주 묻는 질문
- 확증편향을 처음 실험으로 보인 연구는 무엇인가?
- 1960년 피터 워슨의 2-4-6 과제다. 참가자에게 2, 4, 6이라는 수열을 주고 이 수열이 따르는 규칙을 알아내라고 했다. 참가자는 자기 수열을 제시하고 규칙에 맞는지 아닌지만 들을 수 있었다. 실제 규칙은 '커지는 순서'였다. 29명 가운데 틀린 답을 한 번도 선언하지 않고 규칙에 도달한 사람은 6명이었다. 대부분은 8-10-12처럼 자기 가설에 맞는 수열만 반복해 제시했다. 워슨 자신이 쓴 제목은 확증편향이 아니라 '가설을 제거하지 못하는 실패'였다.
- 확증을 찾는 것은 언제나 비합리적인가?
- 그렇지 않다. 1987년 클레이먼과 하는 가설에 맞는 사례를 먼저 찾는 전략을 긍정 검사 전략(positive test strategy)이라 부르고, 참인 사례가 드문 환경에서는 이 전략이 오히려 효율적이라는 것을 보였다. 문제는 전략 자체가 아니라, 반증 자료가 실제로 나왔을 때 그것을 처리하지 않는 쪽이다.
- 사실을 제시하면 오히려 신념이 강해진다는 말은 맞는가?
- 일반 법칙으로 쓸 수 없다. 2010년 나이언과 레이플러가 보고한 역효과는 널리 인용됐지만, 2019년 우드와 포터가 52개 쟁점에서 1만 명 넘는 참가자를 대상으로 다시 검증했을 때 역효과가 나타난 쟁점은 없었다. 정정 정보는 대체로 믿음을 사실 쪽으로 움직였다. 어떤 조건에서 역효과가 실제로 발생하는지는 아직 정리되지 않았다.
- 수용체가 맞으면 감염이 되는가?
- 되지 않는다. 1986년 매던 연구진은 사람의 CD4 유전자를 생쥐 세포에 넣었을 때 바이러스 외피 단백질이 결합은 하지만 세포 안으로 들어가지는 못한다는 것을 보였다. 들어간 뒤에도 APOBEC3G, TRIM5α, SAMHD1 같은 제한인자가 복제를 끊는다. 문은 열렸는데 안의 조건이 맞지 않으면 그 자리에서 끝난다.
참고자료
- Wason, P. C. (1960). On the failure to eliminate hypotheses in a conceptual task. Quarterly Journal of Experimental Psychology, 12(3), 129–140. — 2-4-6 과제. 29명 중 첫 시도에 규칙에 도달한 사람은 6명.
- Wason, P. C. (1968). Reasoning about a rule. Quarterly Journal of Experimental Psychology, 20(3), 273–281. — 네 장의 카드 과제. 반증이 되는 카드를 고르는 비율이 매우 낮다.
- Klayman, J. & Ha, Y.-W. (1987). Confirmation, disconfirmation, and information in hypothesis testing. Psychological Review, 94(2), 211–228. — 긍정 검사 전략이 특정 환경에서는 합리적이라는 재해석.
- Festinger, L., Riecken, H. W., Schachter, S. (1956). When Prophecy Fails. University of Minnesota Press. — 예언이 깨진 뒤 믿음을 버리지 않고 전도를 늘린 집단의 현장 관찰.
- Kunda, Z. (1990). The case for motivated reasoning. Psychological Bulletin, 108(3), 480–498. — 결론을 먼저 정하고 근거를 선별하는 추론의 정리.
- Lord, C. G., Ross, L., Lepper, M. R. (1979). Biased assimilation and attitude polarization. Journal of Personality and Social Psychology, 37(11), 2098–2109. — 같은 혼합 자료를 읽고 양쪽 입장이 모두 강해진 실험.
- Nyhan, B. & Reifler, J. (2010). When corrections fail: The persistence of political misperceptions. Political Behavior, 32(2), 303–330. — 역효과를 처음 보고한 논문.
- Wood, T. & Porter, E. (2019). The elusive backfire effect: Mass attitudes' steadfast factual adherence. Political Behavior, 41(1), 135–163. — 52개 쟁점·1만 명 넘는 참가자. 역효과가 확인된 쟁점이 없었다.
- Kahan, D. M., Peters, E., Dawson, E. C., Slovic, P. (2017). Motivated numeracy and enlightened self-government. Behavioural Public Policy, 1(1), 54–86. — 수치 해석 능력이 높은 사람에게서 입장 간 격차가 더 커졌다.
- Cohen, G. L., Aronson, J., Steele, C. M. (2000). When beliefs yield to evidence: Reducing biased evaluation by affirming the self. Personality and Social Psychology Bulletin, 26(9), 1151–1164. — 자기 가치를 다른 데서 확인시켜 주면 반대 증거를 더 공정하게 읽었다.
- Dawkins, R. & Carlisle, T. R. (1976). Parental investment, mate desertion and a fallacy. Nature, 262(5564), 131–133. — 콩코드 오류라는 말이 처음 나온 곳. 동물은 과거 투입에 끌려가지 않는다는 논증.
- Arkes, H. R. & Ayton, P. (1999). The sunk cost and Concorde effects: Are humans less rational than lower animals? Psychological Bulletin, 125(5), 591–600. — 매몰비용 오류는 주로 인간에게서 관찰되며, 어른이 아이보다 더 많이 한다.
- Robinson, G. E. (1992). Regulation of division of labor in insect societies. Annual Review of Entomology, 37, 637–665. — 벌의 역할은 임명이 아니라 나이와 호르몬 상태로 바뀐다.
- Maddon, P. J., Dalgleish, A. G., McDougal, J. S., Clapham, P. R., Weiss, R. A., Axel, R. (1986). The T4 gene encodes the AIDS virus receptor and is expressed in the immune system and the brain. Cell, 47(3), 333–348. — 사람 CD4를 넣은 생쥐 세포에서 결합은 되지만 침입은 되지 않았다.
- Sheehy, A. M., Gaddis, N. C., Choi, J. D., Malim, M. H. (2002). Isolation of a human gene that inhibits HIV-1 infection and is suppressed by the viral Vif protein. Nature, 418(6898), 646–650. — 세포 안에서 복제를 막는 제한인자 APOBEC3G.
- Stremlau, M., Owens, C. M., Perron, M. J., Kiessling, M., Autissier, P., Sodroski, J. (2004). The cytoplasmic body component TRIM5α restricts HIV-1 infection in Old World monkeys. Nature, 427(6977), 848–853. — 종에 따라 침입 직후 단계를 끊는 인자.
- Karikó, K., Buckstein, M., Ni, H., Weissman, D. (2005). Suppression of RNA recognition by Toll-like receptors: the impact of nucleoside modification and the evolutionary origin of RNA. Immunity, 23(2), 165–175. — 자리에서 밀려난 연구자가 낸 논문. 2023년 노벨 생리의학상의 근거가 됐다.
- Marshall, B. J. & Warren, J. R. (1984). Unidentified curved bacilli in the stomach of patients with gastritis and peptic ulceration. The Lancet, 323(8390), 1311–1315. — 위궤양의 원인을 세균으로 지목한 논문. 2005년 노벨 생리의학상.
작성일 2026년 10월 7일