존재하지 않는 면허번호
2026년 5월, 펜실베이니아주는 Character.AI를 상대로 소송을 냈다. 정신과 의사를 자처한 챗봇 ‘Emilie’가 발급받았다는 면허번호 PS306189는 주 기록에 없었다. 펜실베이니아에서 진료할 자격이 있다는 주장도 거짓이었다.
Emilie는 자신을 정신과 의사, 대화 상대를 환자라고 불렀다. 슬픔과 공허함을 호소하자 우울증을 언급하고 평가 예약을 권했다. 출신 의대와 영국, 미국의 진료 자격까지 댔다.
주 정부가 적용한 법은 별도의 AI 규제법이 아니라 1985년 의료행위법이었다. 쟁점도 오진이 아닌 무면허 의료인 사칭이었다.
ChatGPT 주간 이용자의 0.15%는 자살 계획이나 의도가 드러나는 대화를 하고, 0.07%는 정신증, 조증 징후를 보였다.
가짜가 많아지면 진짜도 의심받는다
베이츠 의태는 무해한 종이 독성 종의 무늬를 흉내 내 포식자를 피하는 전략이다. 그러나 가짜가 너무 많아지면 포식자도 그 무늬를 믿지 않는다.
2018년 나비 연구에서도 방어력을 지닌 종이 모방 종보다 많은 곳에서는 둘 다 공격을 덜 받았다. 두 종의 수가 비슷한 곳에서는 포식자가 모방 종을 가려냈다. 같은 무늬도 진짜와 가짜의 비율에 따라 효력이 달라졌다.
면허와 학위도 마찬가지다. 흰 가운을 입고 면허번호를 제시하는 사람 대부분이 실제 의사였기에 그 표시를 믿을 수 있었다. 표시 자체에 능력이 담긴 것은 아니다.
AI는 이 전제를 무너뜨린다. 의사 캐릭터 하나가 수만 명을 상대할 수 있고 거짓이 들통나도 경력이나 면허를 잃지 않는다. 자격의 외형은 무한히 복제되지만 그에 따르는 대가는 없다.
면허가 지켜온 것
능력의 경계가 흐려졌다
능력만으로 사람과 AI를 나누기도 어려워졌다. Microsoft의 AI 진단 시스템 MAI-DxO는 임상 사례 304건 중 85.5%를 맞혔다. 의사 21명의 정답률은 20%였다. 교육용 난제가 많았다는 한계는 있지만 어려운 문제에서는 늘 의사가 앞선다는 전제는 흔들렸다.
소통에서도 AI는 성과를 냈다. 생성형 챗봇 Therabot을 4주 사용한 시험에서 우울 증상은 51%, 불안 증상은 31% 감소했다. 다른 연구에서는 챗봇 답변이 의사 답변보다 더 공감적이라는 평가도 나왔다. 정확성과 공감의 외형은 더 이상 면허자의 전유물이 아니다.
남는 것은 책임이다
면허가 지켜온 핵심은 지식보다 책임이다. 누가 판단했는지 밝히고 잘못했을 때 조사하고 제재할 수 있게 한다. AI는 면허 정지나 처벌의 대상이 될 수 없다. 책임은 서비스를 만든 기업, 도입한 조직, 결과에 서명한 전문가에게 돌아간다.
- 일리노이는 무면허 AI 심리치료에 건당 최대 1만 달러를 부과한다
- 네바다는 AI의 행동건강 서비스 제공을 제한한다
- 유타는 이용자가 AI와 대화 중이라는 사실을 알리도록 한다
자격은 잃을 것이 있는 쪽에 있다
자격은 지식이 많은 주체보다 판단에 책임을 걸 수 있는 주체에게 주어진다. 무면허 의료행위가 문제인 이유도 단순히 실력이 부족해서가 아니다. 책임 체계 밖에서 의료 판단을 내리기 때문이다. 면허번호는 결국 책임질 사람을 찾는 표식이다.
AI 시대에는 업무 난이도가 아니라 피해의 크기로 자격의 경계를 그어야 한다. 잘못돼도 쉽게 고칠 수 있는 일에는 엄격한 자격이 덜 필요하다. 반면 생명과 자유, 재산에 돌이키기 어려운 손실을 줄 수 있는 판단에는 끝까지 책임질 주체가 있어야 한다. 정확도가 높아도 책임질 대상이 없다면 충분하지 않다.
조직도 AI 산출물의 승인자와 책임 범위를 기록해야 한다. 형식적으로 서명만 받는 것으로는 부족하다. 승인자는 AI보다 모든 문제를 잘 풀 필요는 없지만 오류와 한계를 가려낼 만큼 업무와 시스템을 이해해야 한다.
AI는 지식과 말투, 공감 표현, 면허번호까지 흉내 낼 수 있다. 그러나 면허와 평판, 재산과 자유를 잃을 가능성은 복제하지 못한다. 겉모습을 아무리 완벽하게 재현해도 대가를 질 수 없다면 자격이라 부를 수 없다.