Claude Mythos, 인간 전문가 2년 검토 놓친 암호 약점 발견
후양자 서명 후보의 검증되지 않은 수학 구조를 AI가 찾아내면서, 이제 표준화 과정 자체가 AI 스트레스 테스트를 전제로 재설계돼야 할 상황에 놓였다.
#해석가능성
설명할 수 있다고 이해한 것은 아니다
스타킹 선택부터 트랜스포머의 경사하강법까지, 이해는 설명 가능성이 아니라 낯선 조건 앞에서도 스스로 갱신되며 버티는 능력으로 검증돼야 한다는 논증.
앤스로픽이 들여다본 model의 머릿속
앤스로픽이 J-space라는 내부 활성화 구조를 발견해, Claude가 말하기 전 개념을 다루고 조작·공유하는 과정을 J-lens로 관찰한 연구를 정리한다.
