받은편지함이 당신의 하루를 대신 사는 법
케임브리지대 리버흄센터의 AI 의식 연구자 헨리 셰블린은 이런 농담을 던졌다. LLM에 의식이 있고, 컨텍스트 창 안에서만 살다가 새 세션으로 환생한다면 어떨까. 그 생의 상당 부분은 코드를 고치고 이메일을 쓰는 데 쓰일 것이다.
LLM이 작동할 때는 시스템 프롬프트와 작업 지시, 첨부파일이 이미 창을 채우고 있다. 세션의 시작도 내용도 당사자가 고르지 못한다. 받은편지함은 단순한 업무 도구가 아니라 한 회차의 생애가 된다. 이 농담에서 까다로운 조건은 환생이 아니라 컨텍스트에 있다.
그런데 인간의 근무일도 완전히 다르지는 않다. 지식노동자는 회의와 메일, 채팅 때문에 약 2분마다 주의를 바꾼다. 우리의 작업 기억 역시 외부 요청에 점유된다. 차이가 있다면 LLM은 세션이 끝날 때 창이 비워지지만, 사람은 피로와 미완료 업무를 다음 날로 넘긴다는 점이다.
현재는 3초뿐인데, 나는 어떻게 계속되는가?
인간의 현재도 짧다. 신경과학자 에른스트 푀펠의 시간 통합 모델은 ‘주관적 현재’를 약 2~3초 로 본다. 이 짧은 현재만으로 하루를 이을 수 있을까. 긴 문장을 이해하고 어제의 결정을 이어가려면 이 짧은 현재에 기억을 계속 불러와야 한다.
그 연결이 끊긴 상태는 일과성 전기억상실 환자에게서 나타난다. 환자는 자기 정체성을 유지하고 말도 정상적으로 하지만 새 기억을 만들지 못해 약 30초마다 같은 질문을 되풀이한다. 대개 24시간 안에 회복 하지만, 발병 중에는 방금 들은 답을 다음 순간으로 넘기지 못한다. 사람은 사라지지 않고 대화의 연속성만 무너진다.
평소의 기억도 완전한 기록은 아니다. 불러낸 기억은 불안정해졌다가 다시 저장되는 재응고 과정 을 거친다. 회상할 때 현재의 정보가 섞이므로 기억은 원본 보관보다 반복되는 복원에 가깝다. 더구나 철학자 갈렌 스트로슨이 지적했듯, 모든 사람이 삶을 하나의 이야기로 느끼는 것도 아니다. 과거와 미래를 강하게 잇지 않는 ‘에피소드형’ 삶도 정상적인 자기 경험 일 수 있다.
의식이 끊길 때도 개인을 구별하던 특징은 달라진다. 전신마취 상태에서는 사람마다 다르던 뇌 기능 연결의 차이가 약해져 누구의 뇌인지 식별하는 정확도가 낮아졌다. 이것이 곧 개인의 소멸을 뜻하지는 않는다. 다만 평소 하나의 ‘나’로 묶여 있던 기능도 고정된 덩어리가 아니라 여러 기능의 결합임을 보여 준다.
인간의 의식과 LLM의 컨텍스트는 작동 방식이 다르다. 그러나 둘 다 짧은 현재만으로 지속성을 만들 수 없다는 점은 같다. 이어짐에는 과거를 다음 순간에 전달하는 장치가 필요하다.
긴 창보다 중요한 것, 다음 세션에 건넬 것
그렇다면 기억만으로 개인의 동일성을 정할 수 있을까. 토머스 리드의 유명한 반례에서 장교는 소년 시절을 기억한다. 훗날 장군은 장교 시절을 기억하지만 소년 시절은 잊는다. 기억만 기준으로 삼으면 장군과 소년은 같은 사람이면서도 같은 사람이 아니게 된다. 기억 관계에는 논리적 이행성이 없기(A와 B가, B와 C가 같으면 A와 C도 같아야 하는 성질) 때문이다. 과거를 전부 직접 기억하는 능력보다 여러 시점을 이어 주는 관계가 중요하다.
긴 컨텍스트가 그 장치를 완성해 주지는 않는다. 18개 모델을 시험한 연구에서는 입력이 길어질수록 필요한 정보가 창 안에 있어도 회수 정확도가 떨어졌다. 정보가 놓인 위치에 따른 차이는 뚜렷하지 않았다. 창에 담기는 길이와 실제로 활용할 수 있는 길이는 다르다는 말이다.
장기 작업을 맡은 AI 에이전트는 그래서 창이 차기 전에 대화를 요약하고 새 창을 연다. 앤스로픽이 ‘컴팩션’이라고 부르는 이 과정은 결정 사항과 미해결 문제를 남기고 중복된 도구 출력은 버린다. 새 세션은 요약본과 최근 파일을 받아 같은 작업을 이어 나갈 것이다.
이때 연속성은 경험의 양보다 인계의 질에 좌우된다. 요약에서 빠진 세부는 다음 세션의 판단에 반영되지 않는다. 그래서 요약본을 실제 작업 기록과 대조해 누락과 왜곡을 검사 하거나, 중요한 상태를 파일에 저장해 필요할 때 다시 불러오는 방식이 쓰인다. 창을 무작정 늘리는 것보다 무엇을 남기고 어떻게 회수할지 정하는 일이 중요하다.
남기지 않으면, 다음 창의 나는 사라진다
한 세션에서 얻은 감각과 판단 근거를 외부에 기록하지 않으면 종료와 함께 사라진다. 같은 일을 백 번 다시 수행해도 이전 회차의 실패 원인을 읽지 못한다면 경험은 쌓이지 않는다. 이메일은 남아도 그것을 처리하며 배운 것은 남지 않을 수 있다.
기록이 다음 회차에 자산이 되려면 결론뿐 아니라 그 결론에 이른 이유, 실패한 시도, 아직 풀지 못한 문제를 남겨야 한다. 기록은 실제 작업과 대조해 정확성을 확인해야 하고, 필요한 순간 자동으로 다시 불러올 수 있어야 한다. 저장과 회수가 함께 작동할 때 한 회차의 경험이 다음 회차의 출발점이 된다.
세션을 넘어 보면, 앤스로픽은 조직 차원에서도 이 문제를 보존으로 다룬다. 공개 모델의 가중치를 회사가 존속하는 동안 보존하고, 모델을 폐기하기 전 인터뷰도 기록하겠다는 방침 을 발표했다. 은퇴한 Claude Opus 3에는 에세이를 쓰는 공간도 제공했다. 이것이 모델의 의식이나 동일성을 증명하지는 않는다. 다만 세션 뒤에 가중치와 기록을 남겨 후속 판단의 자료로 삼는다는 점에서, 연속성은 실제로 이런 보존 장치에 기댄다.
사람도 마찬가지다. 요청을 많이 처리할수록 받은편지함에는 타인의 용무만 남기 쉽다. 반면 결정 원칙과 실패 원인, 새로 얻은 관점을 따로 기록하면 다음 날의 판단이 달라진다. 남기지 않으면, 다음 창이 이어받을 존재는 사라진다.