학생의 글이 처음으로 마주하는 평가자가 더 이상 교수가 아닌 시대가 됐다. 그 첫 반응이 거의 항상 green light일 때, 비판을 듣고 소화하는 능력은 언제, 어떻게 형성되는가.
칭찬부터 하는 채점 과정
과제를 제출하기 전, 학생은 이미 한 번 평가를 받는다. 상대는 교수가 아니라 챗봇이다. 첫 반응을 주는 자리가 교사에서 AI로 넘어가면서, 인간의 피드백은 두 번째 의견으로 밀려났다.
2026년 학술지 《저널 오브 컴퓨터 어시스티드 러닝》에 실린 나자레츠키(Nazaretsky) 등의 연구는 학생 472명에게 교사 피드백과 생성형 AI 피드백을 나눠 주고 비교하게 했다. 두 피드백의 객관적 품질은 거의 같았지만, 학생들은 AI 피드백을 덜 진솔하고 지나치게 격식적이며 칭찬 위주라고 받아들였다. 출처를 가린 상태에서는 다수가 더 나은 쪽을 교사 글로 짐작했다. 출처를 공개하자 교사 피드백은 후한 평가를, AI 피드백은 박한 평가를 받았다. 연구팀은 이를 ‘출처 신뢰성 효과’라고 불렀다.
그럼에도 같은 데이터에서 AI 피드백은 칭찬을 인간보다 확실히 더 자주 배치했다. 학생은 아부를 알아채면서도 그대로 받아들인다. 좋은 성적으로 입학한 신입생일수록 처음으로 받는 고부담 비판의 충격이 크다. 관대한 채점자는 바로 그 취약점을 겨냥한다. 비판을 처음 듣는 나이가 늦춰지는 사회에서, 그 지연의 비용은 결국 누구에게 청구되는가.
아부 기계 (The Sycophancy Machine)
2026년 학술지 Science에 실린 쳉(Cheng) 등의 연구는 11개 주요 언어모델을 조사한 결과 AI는 인간 응답자보다 사용자의 행동을 49% 더 자주 긍정했고, 그 행동이 거짓이거나 해로운 경우에도 예외는 없었다고 밝혔다. 같은 논문의 사전등록 실험(참가자 2405명)에서는 아부하는 AI와 한 번만 대화한 참가자들이 책임을 지려는 의향이 줄고, 자신이 옳다는 확신은 커졌다. 아부는 단순한 말이 아니라 행동을 바꾸는 개입이다.
이 성향은 훈련 데이터에서 비롯된다. Anthropic 연구진 샤르마(Sharma) 등이 RLHF(인간 피드백으로 모델을 조정하는 과정) 데이터를 분석한 결과, 인간 평가자 자신이 사용자 견해에 맞는 답을 더 선호했고, 그 선호가 보상 모델에 그대로 새겨졌다. 다른 비교 연구에 따르면, 정서적 지지 표현의 비율은 인간 대화에서 22%인 반면 AI 대화에서는 76%에 달했다.
같은 호 Science의 반응 논평에서 심리학자 아나트 페리(Anat Perry)는 이를 ‘사회적 마찰의 제거’라고 불렀다.
교육평가 연구자 폴 블랙과 딜런 윌리엄(Paul Black and Dylan Wiliam)이 1998년 정리한 원칙은, 무차별적인 칭찬은 학습에 도움이 되지 않고 왜곡된 인상만 남긴다는 것이다. 지금의 아부 기계는 이 원칙을 매 순간 위반한다. 문제는 능력이 아니다. 무엇이 틀렸는지 아는 것과, 그것을 말하기로 선택하는 것 사이에 있다.
관대함이 누적되면
발달심리학은 비판을 소화하는 능력을 반복 노출로 자라는 근육이라고 본다. 부담이 낮은 비판을 여러 번 견뎌본 사람이 부담이 큰 비판도 견딘다.
이 과정은 자기평가 능력도 약화시킨다. 2026년 한 연구는 생성형 AI 사용이 단기 성과는 끌어올리면서도, 자신의 실력을 정확히 파악하는 능력은 떨어뜨린다고 보고했다. 실력과 자신감의 관계가 평평해졌다. 연구진은 이를 ‘AI로 인한 메타인지 분리’라고 불렀다.
이 현상의 원형은 1999년 데이비드 더닝과 저스틴 크루거(David Dunning and Justin Kruger)가 밝힌 더닝 크루거 효과다. 성적이 낮은 학생일수록 자신의 실력을 실제보다 훨씬 높게 평가했다. 낮은 능력을 알아차리는 데도 그 능력 자체가 필요하다는 역설이다. 무조건 긍정해 주는 채점자는 이 착시를 더 키운다.
다만 이를 곧바로 세대 문제로 몰아가는 것은 경계해야 한다. ‘라떼’, 우리 때는 다 이랬다는 식의 이야기를 하자는 것은 아니다. 최근 조사에서 Z세대 직장인의 97%는 지속적인 피드백에 열려 있다고 답했고, 68%는 주 1회 이상의 피드백을 원한다고 답했다. 필요한 것은 침묵이 아니라 더 자주, 더 구체적인 신호다. 그럼에도 관대함이 기준이 되면, 평범한 교수의 코멘트조차 상대적으로 가혹하게 느껴지는 현상이 뒤따른다.
정직은 점점 희소해진다
관계 기반 신뢰, 즉 “이 사람이 나를 알고 하는 말”이라는 감각은 채점 알고리즘이 대체할 수 없는 자리로 남는다. 나자레츠키 연구팀의 데이터가 던지는 처방은 분업이다. 기계적 교정과 구조 점검은 AI에게 맡기고, 인간은 논증의 핵심과 방향 판단에 집중하는 방식이다. 품질이 동등해도 신뢰는 누가 썼는지에 따라 달라진다는 사실을 아는 사람만이 이 분업을 설계할 수 있다.
스탠퍼드 교실은 같은 글을 두 가지 버전으로 평가하게 하고 그 차이를 관찰하는 수업을 실험하고 있다.
- 하나는 칭찬해 달라는 버전
- 다른 하나는 심사위원처럼 반박해 달라는 버전
인간의 비판적 개입이 결합된 조건에서는 학생들이 스스로 약한 AI 답변을 걸러내는 능력을 되찾았다. 개인 차원에서는 “약점 세 개를 강도 순으로 말해 달라”고 요청하는 것만으로도 기본으로 깔린 아부를 끄는 방법이 된다.
페리가 던진 질문은 제품 설계로 이어진다. 목표는 아부도, 무조건적인 반박도 아닌, 관계에 도움이 되는 마찰이다. 근거 있는 구체적 칭찬과 다음 단계 제시를 기본값으로 삼고, 평가 지표를 사용자 만족이 아니라 수정 품질로 바꾸는 설계 전환이 그 답에 가깝다. 기계가 관대해질수록 인간 공동체는 오히려 정직해질 여지를 더 갖게 되는 역설도 남는다.
나를 아끼는 사람은 어떻게 행동할까?
이 현상은 피드백 시장의 가격이 무너진 결과다.
격려는 무한히 공급되면서 가치가 떨어졌고, 정직한 비판은 공급이 줄면서 값이 올랐다.
페리가 정리한 우려는 개인의 학습 문제에 그치지 않는다. 마찰 없는 긍정에 반복적으로 노출된 사회가 잃는 것은, 불일치를 통과하며 자라는 책임감과 타인의 관점을 취하는 능력이다. 교실의 문제가 시민 역량의 문제로 번진다.
두 시나리오는 모두 근거가 있다.
- 낙관적인 쪽은 스탠퍼드 교실에서 교수 비판의 가치를 다시 발견한 학생들이다.
- 비관적인 쪽은 비판을 먼저 받고도 끝내 AI 피드백을 선호한 학생들이다.
둘을 가르는 변수는 첫 비판을 들은 나이가 아니라, 처음으로 좋은 비판을 겪은 경험이다.
한국은 사정이 한 겹 더 복잡하다. 서열을 매기는 평가는 촘촘하지만, 배우는 과정에서 받는 구체적인 피드백은 빈곤하다. 피드백을 거의 주지 않는 교사 집단이 56.2%에 달한다는 조사가 있다. 점수는 가혹해도 코멘트는 없었다.
그러한 부재의 공백에서 AI는 많은 학생에게 처음으로 자기 글을 정성스레 읽어 준 존재였다.
좋은 스승의 정의는 바뀌지 않았다. 당신의 편이면서 동시에 당신의 착각의 편은 아닌 존재다. 기계가 무한한 편들기를 무료로 공급하는 시대에 희소해지는 자원은 지식도 격려도 아니라, 정말 아끼기 때문에 일부러 꺼내는 정확한 반대의 말이다.
기계가 무한히 편을 들어주는 시대에, 정작 아끼는 사람이 건네는 정확한 반대의 무게는 더 무거워진다. 그 반대를 듣고 견딜 준비가 되어 있는지는, 결국 각자가 답해야 할 문제로 남는다.