프롬프트의 80%는 왜 사라졌나
2026년 7월 Anthropic은 Claude Code 시스템 프롬프트의 80% 이상을 덜어냈다. 그런데도 코딩 평가 성능은 떨어지지 않았다. 여러 문단에 걸친 금지 사항도 “주변 코드의 주석과 명명 관례를 따르라”는 한 문장으로 바뀌었다. 모델의 판단력이 좋아지자 세세한 규칙이 오히려 방해가 됐다.
과거의 규칙에도 이유는 있었다. 이전 모델이 엉뚱한 파일을 지우거나 불필요한 주석을 달 때마다 운영자는 방지책을 추가했다. 하지만 이런 문서가 쌓이면 업무 지침이 아니라 구형 모델의 버그 목록이 된다. 부작용을 새 질환으로 오해해 약을 더하는 처방 연쇄와 비슷하다.
익숙한 해법이 더 나은 판단을 막는 아인슈텔룽 효과는 프롬프트에도 나타난다. 지시가 많으면 모델은 현재 상황보다 과거의 예외 처리에 끌려간다. 지시가 늘어날수록 이행률이 떨어지는 정도를 측정한 IFScale 연구에서도 지시가 500개일 때 상위 모델의 이행률은 68%에 그쳤다. 규칙을 하나 더할 때마다 다른 규칙을 놓칠 가능성도 커진다.
당신의 프롬프트는 서로 충돌한다
Anthropic의 내부 프롬프트에는 문서화를 권하는 지시와 주석을 금지하는 지시가 함께 있기도 했다. 모델은 작업에 앞서 충돌하는 명령의 우선순위부터 판단해야 했다. 컨텍스트의 부담은 길이만의 문제가 아니다.
같은 방향의 긴 문서보다 서로 모순되는 짧은 문서가 더 까다롭다.
중환자실에서도 생리 모니터 경보의 72~99%가 거짓이거나 조치가 필요 없는 신호라는 연구가 있다. 거짓 경보가 반복되면 의료진은 경보 체계 전체를 덜 믿는데, 프롬프트에서도 낡은 지시는 유효한 규칙의 신뢰도까지 떨어뜨린다. 새 규칙을 찾기 전에 서로 충돌하는 문장부터 걷어내는 작업이 우선이다.
기억할 것과 찾을 것을 나눠라
항공기 조종사는 모든 비상 절차를 외우지 않는다. 즉시 실행할 항목만 기억하고 나머지는 QRH라는 신속 참조 안내서를 펼친다. 기억할 정보와 찾아볼 정보를 나눴다.
AI 에이전트도 항상 필요한 안전 원칙만 기본 컨텍스트에 두고 업무별 지식은 관련 스킬에서 불러올 수 있다. Anthropic이 말하는 점진적 공개다. 당장 필요하지 않은 정보를 빼면 모델의 부담도 줄어든다.
단, 스킬은 제때 발견되어야 한다. Boeing의 QRH 연구처럼 상황을 제대로 진단하지 못하면 알맞은 절차도 찾을 수 없다. 스킬 역시 호출되지 않으면 누락된다. 따라서 운영팀은 호출률과 누락 사례를 함께 살피고 이름과 설명이 사용 조건을 분명히 드러내는지 점검한다.
규칙에도 만료일을 붙여라
규칙은 정기적으로, 특히 모델을 바꿀 때 다시 검증해야 한다. 각 규칙에는 도입 이유와 실패 사례, 삭제 여부를 가릴 시험이 필요하다. 근거가 없으면 아직 유효한지 확인할 수도 없다.
규제 일몰제처럼 별도 조치가 없으면 효력이 끝나는 구조를 적용할 수 있다. 모델이 바뀌면 기존 규칙을 만료시키고 효과가 입증된 항목만 되살리는 방식이다.
무엇을 남길지는 중요도보다 복구 가능성으로 판단한다. 되돌릴 수 있는 선택은 모델과 테스트에 맡기고 프로덕션 DB 삭제처럼 복구하기 어려운 행동은 권한 체계로 막는다. 코딩 관례도 자연어 지시보다 린터와 테스트로 표현하는 편이 확실하다.
자동 기억에도 출처와 작성 시점, 만료일, 삭제 기능이 필요하다. 잘못 저장된 정보가 다음 세션의 전제가 되기 때문이다. 기억 오염 연구에서는 한 번의 악성 정보 저장이 장기 행동을 바꿨고 특정 조건에서는 공격 성공률이 85%에 달했다. 부정확한 요약이 반복 사용될 때도 위험은 같다.
정리 기준을 계속 늘리는 것도 답은 아니다. 규칙을 지운 뒤 같은 평가를 돌려 결과를 비교하는 편이 낫다. 모델이 좋아질수록 명령은 줄고 참조 자료와 검증 도구는 늘어난다. 되돌릴 수 없는 행동만 시스템이 직접 제한한다.