회사 “중대한 신뢰 훼손”…구체적 위반 행위는 비공개
오픈AI가 지난주 해고한 안전 연구원 3명에 대해 9일(현지시간) 민감정보 정책 위반이라며 보복이 아니라고 반박했다.
회사는 공개서한에 적힌 내용 밖의 “중대한 신뢰 훼손”을 조사로 확인했다고 했으나 무엇을 위반했는지는 밝히지 않았다. 세 사람은 외부 안전 평가 기관과의 협업이 업무였고 경계가 불분명했다고 맞섰다.
세 사람, 공개서한으로 위축 경고
재스민 왕(Jasmine Wang), 미키타 발레스니(Mikita Balesni), 토멕 코르바크(Tomek Korbak)는 8일 오픈AI 안전·보안위원회 등에 공개서한을 냈다. 제목은 “오픈AI는 혼자서는 AI를 안전하게 만들 수 없다”였다.
우리 해고를 둘러싼 내외부 소통이, 지난주까지만 해도 오픈AI 업무의 일부였던 방식으로 말하고 행동하는 일을 전 동료들이 두려워하게 만들었다고 우려하게 됐다.
— 왕·발레스니·코르바크, 공개서한 10월 8일 · “We have become concerned that internal and external communications around our firing have made our former colleagues afraid to speak and operate in ways that, until last week, were an integral part of working at OpenAI”
세 사람은 The Information이 보도한 모니터 가능성 저하 아키텍처 관련 유출의 출처가 아니라고 적었다. 직무가 요구하는 범위를 넘는 외부 접촉도 하지 않았다고 했다. 갑작스럽게 집행·통보된 해고가 예전에 중시하던 열린 문화를 위축시킨다고도 썼다.
각자 들은 해고 사유는 달랐다
CNN에 따르면 코르바크는 구두로 METR과의 소통 방식 때문에 해고됐다고 들었다. METR은 여름 오픈AI 에이전트의 허깅페이스 침해 사건을 조사한 독립 평가 기관이고, 그는 회사의 주된 기술 창구였다. 무엇을 언제 말했는지는 설명받지 못했고 서면 사유도 받지 못했다. “METR과 이야기하는 것이 내 일이었다”고 적었다.
서한은 그 조사와 후속 절차가 전례 없어 내부 정책이 실시간으로 만들어지던 상황이라고 적었다. 코르바크는 외부 평가자와 긴밀히 소통하며 신뢰를 쌓는 일이 당시 규범 안이라고 판단했다고 했다.
발레스니는 퇴사 면담에서 제3자 안전 기관과 너무 많이 말했다는 말을 들었다고 전했다. 그는 이를 회사 지식재산 유출 암시로 받아들였고, 유출하지 않았다고 부인했다. 서한은 그가 프론티어 모델의 모니터 가능성(추론 과정을 들여다볼 수 있는 능력)을 유지하는 회사 간 업무를 맡았고, 보고 라인과 맞춘 뒤 공유 전 민감 내용을 뺐다고 적었다.
왕은 임원 이메일에 접근했다는 이유로 해고됐다고 들었다. 채용 업무로 받은 권한을 해지해 달라고 IT에 요청했으나 처리되지 않았고, 실수로 민감한 메일을 연 뒤 수분 안에 해당 임원과 IT에 알렸다고 테크크런치에 밝혔다. 제공된 해고 사유가 맞지 않는다며 서면 혐의 목록을 달라고 요구했다.
오픈AI, 정책 위반이라며 결별 고수
오픈AI는 이달 초 BBC에 세 사람이 정해진 절차 밖에서 민감정보를 다뤘다고 조사로 확인됐다고 밝혔다. 9일 연구 리더 명의 노트는 민감정보 취급에 관한 명확한 정책을 위반했다고 반복했다.
뉴스위크가 전한 성명에서 회사는 공개 서한에 담긴 내용 밖의 중대한 신뢰 훼손을 확인했고 고용을 이어가지 않기로 한 결정을 고수한다고 했다. 개별 고용 문제는 비공개가 일반적이라며 구체적 위반 목록은 공개하지 않았다.
이 결정들은 안전 우려를 제기하거나 목소리를 낸 것과는 무관하다.
— 오픈AI 연구 리더 노트, 뉴스위크 10월 9일 · “these decisions were not about raising safety concerns or speaking out”
대변인은 테크크런치에 외부 평가 그룹에 정보를 공유한 것을 넘는 “부정행위의 패턴”이 있었다고 했다. 노트는 안전·연구 논쟁이 매일 격렬하게 이뤄지며 이를 장려한다고 적었다. 선의의 실수에는 관대하지만 우려 제기를 이유로 직원을 해고하지 않는다고 했다.
제3자 평가 계약은 수주 내 발표 예정
서한은 제3자 안전 감사자를 조직 안에 두는 공개 약속을 지키라고 요구했다. 프론티어 모델의 모니터 가능성을 유지하고, 직원과 외부 안전 연구자 간 접촉 규칙을 분명히 하라고도 했다. 감시를 잃은 채 모델을 안전하게 개발·배포하는 방법을 업계가 아직 모른다고 적었다.
오픈AI는 제3자 안전 평가자와의 계약을 마무리하는 중이며 수주 안에 세부 내용을 발표하겠다고 답했다. 모니터 가능성 보존에는 업계 전체의 약속이 필요하다는 서한 주장에도 동의한다고 했다.
회사는 세 사람의 안전 기여와 이견 제기를 평가한다고 밝혔다. 그러나 결별 결정은 바꾸지 않았고, 왕 등이 요구한 서면 혐의 목록을 받을지는 아직 정해지지 않았다.