설명 가능한 것이 이해한 것이라는 전제는 오래 유지돼 왔다. 그러나 어떤 결정을 내리는 시점과, 그 결정의 이유를 나중에 대는 시점은 자주 서로 다르다. 이 글은 그 어긋남을 여러 사례로 따라가며, 이해를 확인하는 기준 자체를 다시 묻는다.
이해라는 말 자체도 반드시 설명을 뜻하지는 않는다. 한자어 이해(理解)의 ‘리’는 본래 옥 안에 난 결을 가리키고, ‘해’는 얽힌 것을 나누어 푸는 행위와 연결된다. 옥의 결을 이해한다는 것은 그 결을 유창하게 설명하는 일이 아니다. 어느 방향으로 다뤄야 깨지지 않는지를 아는 일이다. 이해를 이렇게 본다면, 설명은 이해 그 자체가 아니라 이해가 작동한 뒤 붙는 별도의 산물일 수 있다.
오른쪽 스타킹을 고른 이유
1977년 미국 사회심리학자 리처드 니스벳(Richard Nisbett)과 티모시 윌슨(Timothy Wilson)은 실험을 하나 했다. 상점 진열대에 완전히 같은 스타킹 네 켤레를 나란히 놓고, 손님들에게 가장 마음에 드는 것을 고르라고 했다. 제품 사이에는 아무런 차이가 없었다. 그런데 압도적 다수가 가장 오른쪽에 놓인 것을 골랐다.
왜 그것을 골랐느냐고 묻자, 손님들은 짜임이 더 좋다거나 감촉이 부드럽다거나 색이 자연스럽다는 이유를 댔다. 오른쪽에 있어서 골랐다고 답한 사람은 한 명도 없었다. 실험자가 “위치가 영향을 준 것 아니냐”고 직접 제시해도 대부분 “그럴 리 없다”며 부인했다. 그들이 내세운 근거는 애초에 존재하지 않는 차이에서 나온 것이었다.
비슷한 현상이 체스판 위에서도 반복적으로 관찰된다. 국제 그랜드마스터 알릭 게르숀은 특정 수를 둔 논리적 과정을 설명해 달라는 요청을 받았다. 그는 대부분의 경우 어떻게 그 결정에 이르렀는지 설명할 수 없고, 그냥 직감에 의존했다고 답했다. 판을 읽는 능력과 그 읽은 내용을 말로 옮기는 능력은 같은 자리에서 나오지 않는다.
이 두 사례가 보여주는 것은 능력의 부족이 아니다. 그 근거에 접근할 수 있는 경로의 부재다. 스타킹을 고른 손과 다음 수를 고른 손은 모두 어떤 근거에 따라 정확하게 움직였다. 다만 그 근거를 언어로 꺼내 볼 수 있는 통로가 처음부터 결정 과정에 연결되어 있지 않았을 뿐이다.
코끼리와 기수
도덕심리학자 조너선 하이트(Jonathan Haidt)는 2001년 논문에서 도덕 판단의 작동 방식을 이렇게 설명했다.
그의 실험에서 피험자들은 해가 되는 당사자가 없는 가상의 행위를 접했다. 죽은 닭과 성관계를 갖는 경우, 서로 동의한 남매가 안전하게 성관계를 갖는 경우 등이었다. 피험자들은 즉각 잘못됐다고 판단했다. “피임을 했고 아무도 다치지 않았다면?” 같은 반론으로 근거를 하나씩 무너뜨려도 판단 자체는 바뀌지 않았다. 피험자들은 그냥 잘못됐다, 이유는 설명하지 못하겠다는 상태에 머물렀다.
하이트는 이 구조를 코끼리와 기수의 비유로 정리했다. 코끼리, 즉 직관이 이미 방향을 정해 움직이고 있다. 기수, 즉 추론은 그 위에서 코끼리가 가는 방향이 옳아 보이도록 사후에 논거를 짜 맞춘다. 기수는 코끼리를 조종하는 자리보다 코끼리를 위해 변론서를 쓰는 자리에 가깝다.
스타킹 실험과 겹쳐 보면, 선호든 도덕 판단이든 결정을 내리는 시점과 그 이유를 나중에 대는 시점은 서로 다른 절차다. 후자는 전자가 실제로 무엇에 근거했는지 접근할 수 있는 경로를 갖고 있지 않다.
기계는 설명 없이 정답에 도달한다
계산 기계에서도 같은 구조가 확인된다. 2026년 5월 발표된 논문은 AI 언어모델의 기본 구조인 트랜스포머를 다룬다. 이 모델은 문맥 속 단어들의 관련성에 가중치를 주는 방식으로, 두 범주 중 하나를 예측하는 통계 기법을 문맥 안에서 학습할 수 있다. 이때 각 층이 오차를 줄이는 방향으로 값을 조금씩 조정하는 최적화 기법의 한 단계를 정확히 수행하도록 구성될 수 있음을 증명했다. 모델은 규칙을 설명하거나 이해를 거치는 중간 단계 없이, 입력이 층을 한 번 통과하는 동안 최적화 절차 자체를 실행한다.
이보다 앞선 2022년 연구는 더 근본적인 구조를 보여준다. 트랜스포머가 자신의 내부 계산값 안에 더 작은 선형 모델을 넣어 두고, 문맥에 새 예시가 들어올 때마다 경사하강법(gradient descent)이나 이와 수학적으로 같은 절차로 그 모델을 갱신한다는 점을 구성적으로 증명했다. 층의 깊이와 데이터의 잡음 수준에 따라 모델의 예측은 실제로 이 통계 절차들이 내놓는 결과와 거의 일치했다.
이 기계에는 자기가 이해했다는 이야기를 지어낼 만한 부분이 애초에 없다. 정답에 도달하는 경로 전체가 최적화 절차의 실행일 뿐이다. 그 절차를 말로 꺼내 볼 방법 자체가 설계에 없는데도 결과는 틀리지 않는다. 이해한다고 생각하는 인간과 그런 주장을 하지 않는 기계는, 정답에 이르는 계산의 위치에서 같은 자리에 선다. 차이는 능력의 유무가 아니라, 그 능력을 사후에 이야기로 포장하느냐 아니냐에 있다.
기계는 자신이 읽은 결을 말로 옮기지 않는다. 다만 입력이 바뀌면 가중치를 바꾸고, 새 예시가 들어오면 내부 상태를 갱신한다. 설명은 없지만 결에 맞춰 움직인다.
말로 옮기지 못하는 지식
철학자 마이클 폴라니(Michael Polanyi)는 1966년 우리는 말할 수 있는 것보다 더 많이 안다고 썼다. 예는 단순하다.
사람의 얼굴을 수백만 개 중에서도 알아보지만, 무엇을 근거로 알아보는지 거의 말로 옮기지 못한다. 자전거를 타는 균형 감각이나 설득력 있는 문단을 이어가는 감각도 마찬가지다.
신경과학자 마이클 가자니가(Michael Gazzaniga)는 좌뇌와 우뇌를 연결하는 신경 다발을 절제한 환자를 연구했다. 좌뇌에는 닭발 그림을, 우뇌에는 눈 덮인 풍경을 보여준 뒤 관련된 사물을 고르게 했다. 왼손은 삽을, 오른손은 닭을 골랐다. 왜 삽을 골랐느냐고 묻자 좌뇌의 해설 기능은 실제 이유, 즉 우뇌가 눈을 봤다는 사실에 접근하지 못한 채 이야기를 즉석에서 만들어냈다. 닭발은 닭과 어울리고, 삽은 닭장을 치우는 데 쓰이니까라는 식이다.
경제학자 데이비드 오터(David Autor)는 2014년 이 문제를 더 깊이 파고들었다. 그는 이 현상을 폴라니의 역설이라 이름 붙였다. 운전이나 대화, 손동작처럼 말로 설명하기 어려운 암묵지에 기반한 직무는 명시적 규칙을 코드로 옮길 수 없어 자동화가 오래 지연됐다고 분석했다. 능력이 있다고 해서 그 능력을 언제나 설명 가능한 절차로 옮길 수 있는 것은 아니다. 이 간극이 산업 전체의 자동화 속도를 결정한 변수였다.
설명은 능력이 작동한 뒤에 따로 생성된다. 그 설명이 매끄럽다고 해서 능력의 실체가 검증되는 것은 아니다.
이해를 검증하는 기준
이해했다는 이야기가 전부 거짓이라고 해서, 이해라는 개념 자체가 무의미하다는 뜻은 아니다. 앞의 사례들에서 잘못된 것은 이해 자체가 아니라, 이해를 확인하는 방법이었다. ‘설명할 수 있으면 이해한 것’이라고 보는 시험 자체가 처음부터 잘못 설계돼 있었다.
그랜드마스터의 직감은 낯선 국면에서도 계속 좋은 수를 찾아낸다. 실제로 2026년 7월 신진서 9단은 AI 카타고(KataGo)에 두 점을 깔고 둔 공식 3번기에서 2승 1패를 거두며, AI가 인간을 압도하게 된 시대에도 최고 기사의 직관이 여전히 통한다는 것을 보여줬다. 트랜스포머의 내부 최적화 절차는 새 예시가 하나씩 들어올 때마다 실제로 갱신된다. 두 경우 모두 검증은 “설명해 보라”는 요구가 아니라, 지금까지 본 적 없는 조건 앞에서도 버티는지, 그 조건에 맞춰 스스로 조정되는지로 이뤄진다.
스타킹 손님의 사후 이유나 코끼리 위 변호인의 논거는 이 시험을 통과하지 못한다. 위치가 아닌 다른 조건으로 다시 물으면 매번 다른 이유를 지어낼 뿐, 그 이유가 실제로 갱신되거나 예측력을 갖지는 않는다.
이해는 설명이 아니라 사후 정당화라는 말은, 어느 정도 맞다. 하지만 정당화를 걷어낸다고 해서 그 자리에 아무것도 남지 않는 것은 아니다. 그 자리에는 다른 기준이 들어선다. 처음 보는 조건 앞에서도 스스로를 조정하며 버티는 능력이다. 이해했다는 말은 설명이 얼마나 매끄러운가가 아니라, 낯선 문제 앞에서도 무너지지 않고 스스로 갱신되는가로 확인돼야 한다. 인간의 직관이든 기계의 계산이든 같은 잣대를 대면, 사후에 그럴듯한 이유를 잘 대는 쪽이 아니라 처음 보는 문제 앞에서 무너지지 않는 쪽이 이해에 더 가깝다.
앞서 옥의 결에 빗댄 이해로 돌아가면, 검증의 방법도 분명해진다. 결을 유창하게 설명하게 하는 것이 아니라, 결이 달라졌을 때 행동도 달라지는지를 보는 것이다.
개인 차원에서 이 기준은 한 가지 질문으로 좁혀진다. ‘나는 왜 그렇게 생각했는가’가 아니라, ‘어떤 조건이 달라지면 나는 판단을 바꿀 것인가’다. 두 번째 질문에 답하지 못한다면, 그것은 이해라기보다 이미 내려진 결론을 지키기 위한 변론에 가깝다. 기계도 다르지 않다. 에이전트에게 왜 그렇게 판단했느냐고 물으면 내부 계산을 꺼내 보이기보다 그럴듯한 설명을 새로 지어내고, 그 점에서 인간의 좌뇌 해설자와 기계의 언어 생성기는 똑같이 사후에 이유를 붙이는 데 능하다. 에이전트의 이해 역시 설명의 매끄러움이 아니라 조건이 달라졌을 때 계획을 바꾸는지, 실패를 기억하는지, 같은 오류를 다음 실행에서 줄이는지로 가늠해야 한다.
인간에게든 기계에든 잣대는 결국 같다. 무엇을 말할 수 있느냐가 아니라, 현실이 예상과 어긋났을 때 무엇을 바꿀 수 있느냐다. 설명은 판단을 방어하고, 이해는 판단을 수정한다.
국어사전은 이해를 ‘사리를 분별하여 해석함’, ‘깨달아 앎’이라고 풀이한다. 그러나 그 분별도, 앎도 결국 처음 보는 상황 앞에서 스스로를 조정하며 버텨 낼 때에야 확인된다. 그렇다면 우리는 무엇을 근거로 스스로가 무언가를 이해하고 있다고 믿는가. 이해한다는 것의 본질을, 우리는 정말 이해하고 있는가?