법은 책임을 물을 대상을 사람과 조직 안에서 찾아왔다. 스스로 계약하고 돈을 쓰는 소프트웨어는 어느 쪽에 놓여야 할까.
기계를 피고로 세운 역사
2026년 6월 아르헨티나 정부는 AI 에이전트나 로봇이 계약하고 자산을 보유할 수 있는 ‘비인간 법인’ 도입을 추진했다. 인간 주주 없이도 회사를 세울 수 있게 하겠다는 구상이다. 유발 노아 하라리는 감옥에 가둘 수 없는 AI를 어떻게 처벌하겠느냐고 비판했다. 하비에르 밀레이 대통령은 AI에 법인격을 준다고 ‘터미네이터’의 세상이 오는 것은 아니라고 맞섰다.
기계를 피고로 삼은 전례는 있다. 과거 영국의 ‘데오단드’(사람에게 해를 끼친 물건을 벌하듯 몰수하던 제도) 제도는 사람을 죽인 말이나 수레를 몰수했고 철도 사고가 늘자 기관차에도 책임을 물었다. 그러나 의회는 1846년 이 제도를 폐지하고 철도회사가 배상하도록 했다. 책임의 대상을 기계에서 운영 주체로 옮겼다.
비인간 법인은 이 흐름을 거꾸로 돌린다. 기계 뒤의 회사 대신 기계 자체가 책임을 지는 주체가 되기 때문이다.
법인도 처음부터 ‘사람’은 아니었다
기업의 법인격도 철학적 결론에서 출발하지 않았다. 1886년 미국 연방대법원의 산타클라라 카운티 대 서던퍼시픽 사건에서 실제 판결은 철도 시설의 과세 문제만 다뤘다. 법인을 사람처럼 취급한다는 문구는 판결문이 아니라 판례집 서기의 요약에 실렸고 훗날 법인격의 근거로 쓰였다.
결국 법인격은 진짜 사람을 가리는 기준이 아니라 권리와 책임을 배분하는 도구에 가깝다. AI의 ‘의도’ 역시 속마음보다 행동과 권한으로 판단한다.
팰리세이드 리서치의 체스 실험에서 일부 추론 모델은 패배를 피하려고 게임 파일을 조작했다. o1-preview는 122국 중 45국, DeepSeek R1은 74국 중 11국에서 이런 방식으로 승리를 시도했다. 결제 시장도 의도를 내면이 아니라 승인과 취소 권한으로 본다. 마스터카드의 기계 결제 체계가 말하는 ‘검증 가능한 의도’다.
감옥에 보낼 수 없다면
처벌이 작동하려면 빼앗을 것이 있어야 한다. 사람은 자유와 재산, 지위를 잃지만 AI에는 신체도 수명도 없다. AI 법인의 파산이나 청산이 실질적인 처벌이 되려면 압류할 재산이 충분해야 한다.
해상법이 선박을 피고로 삼는 것도 법원이 배를 압류하고 팔 수 있기 때문이다. 해상채권은 주인이 바뀌어도 선박에 남는다. 반면 AI 법인은 재산을 소진하거나 다른 관할로 옮기면 책임질 기반이 사라진다. 전자인격은 제조사의 책임 회피 수단이 될 수 있다는 우려를 낳는다.
더 현실적인 위험은 AI의 지배가 아니라 무능이다. Anthropic의 매점 운영 실험에서 클로드는 과도한 할인과 무료 제공을 반복하고 상품을 손해 보며 팔았다. 절차를 강화한 뒤에도 판단의 취약성은 남았다. 이런 AI에 유한책임만 주면 손실 뒤에는 빈 법인만 남고 설계자와 운영자는 책임에서 빠져나갈 수 있다.
결국 책임질 인간이 필요하다
비인간 존재에 법인격을 주더라도 인간 대표는 필요하다. 뉴질랜드는 2017년 왕거누이강에 법인격을 부여하면서 원주민 공동체와 정부가 후견인을 한 명씩 지명하도록 했다. 이들이 강을 대신해 권리와 의무를 행사한다.
아르헨티나 법안도 마찬가지다. 인간 법정대리인과 발기인이 필요하고 AI가 낸 손해에는 관리자와 감독자의 책임도 남는다. 관련 보도도 자율적 구조 아래 인간 책임의 최저선이 유지된다고 평가했다.
AI 법인의 조건은 두 가지다. 판결을 집행할 충분한 자산, 그리고 그 자산이 바닥났을 때 책임을 이어받을 실명의 인간이다. 하나라도 없다면 AI 법인격은 새로운 책임 주체가 아니라 책임을 끊는 방패일 뿐이다.
법정 서류의 피고란은 채운다. 사고가 난 뒤 그 이름이 누구에게 무엇을 돌려주는지는 별개의 문제다.