인공지능 에이전트가 계약 체결, 조언 제공, 시스템 접근 같은 실제 행위를 대신 수행하면서 법적 책임의 공백이 드러나고 있다. 에이전트 자체는 법인격(法人格, legal personhood — 사람이나 회사처럼 법이 권리와 의무의 주체로 인정해 주는 자격)도 없고, 스스로 가진 재산도 없으며, 형법이 처벌의 조건으로 요구하는 ‘고의’조차 없는 소프트웨어다. 그래서 사람이나 회사를 전제로 만들어진 기존 법의 틀을 그대로 적용하기 어렵다. 피해가 발생했을 때 누구에게, 어떤 절차로 책임을 물을 수 있는지는 아직 명확한 답이 없는 영역이다. 이 글은 피고인석이 비어 있는 상황에서 법이 과거에 어떻게 대응해왔고, 현재 입법과 실무가 어떤 방향으로 움직이는지를 살펴본다.
수레가 유죄였던 시절
1846년 이전 영국 법정에서는 사람을 다치게 하거나 죽인 물건 자체를 재판에 세웠다. 수레가 사람을 치어 죽이거나 물통이 우물에 빠뜨리는 사고가 발생하면 그 물건이 대상이 됐다. 검시관이 주재하는 배심이 이런 물건을 디오드(deodand)로 지정하면 몰수가 이뤄졌다. 디오드는 신에게 바쳐질 물건을 뜻했으나 실제로는 소유주가 물건 가치만큼 벌금을 내는 절차였다. 이 제도는 중세 초기에 자리 잡아 19세기 중반까지, 무려 900년 가까이 유지됐다. 사람을 해친 사건이 분명한데 처벌할 대상을 특정하기 어려울 때 법이 눈에 보이는 물건에 책임을 물어 결국 소유주에게 금전적 제재를 가하는 방식이었다.
철도가 등장하면서 이 절차는 한계를 드러냈다. 기관차 한 대가 몰수 판정을 받는 일이 반복되자 철도 자본가들이 의회에 로비를 벌였다. 1846년 디오드법(Deodands Act 1846 — 디오드 제도를 없앤 폐지법)으로 제도 자체가 사라졌다. 사물을 대상으로 한 처벌로는 산업 규모의 피해를 감당할 수 없다는 결론이 그때 내려졌다.
AI 에이전트도 비슷한 상황에 놓여 있다. 에이전트는 예약을 잘못 잡거나 계약을 잘못 맺고 소송 서류를 잘못 작성하는 방식으로 피해를 일으킨다. 그러나 에이전트는 법인격도 자산도 없고 형법이 요구하는 고의도 갖지 않는 소프트웨어일 뿐이다. 과거 디오드를 몰수해도 실질적인 책임 주체를 찾기 어려웠던 문제가 21세기에는 소프트웨어 형태로 나타난다.
AI 에이전트는 인공지능을 콘텐츠 생성에서 실제 행위로 옮긴다. 국제 로펌 베이커맥켄지는 이 변화를 지적하며 에이전트가 시스템에 접근해 사람을 거래에 구속시키는 순간부터 대리 관계, 불법행위, 계약, 전산 접근을 다루는 법 전체가 적용된다고 본다. 챗봇이 텍스트를 생성할 때는 표현의 문제가 주로 제기됐지만 에이전트의 경우는 다르다.
일본 보험사 니폰라이프는 OpenAI를 상대로 무면허 법률행위 혐의로 소송을 제기했다. 이미 화해가 성립한 사건의 당사자가 ChatGPT에 변호사와 주고받은 편지를 올려 조언을 구하자 챗봇은 합의의 정당성에 의문을 제기하며 변호사 해임과 재소송을 권했다. 이 조언은 사후 소송 서류 44건으로 이어졌고 니폰라이프는 약 30만 달러의 대응 비용을 부담했다. OpenAI는 답변서에서 ChatGPT가 통계적으로 다음 단어를 예측하는 도구일 뿐이라고 밝혔다.
이미 널리 알려진 대로, 아마존은 퍼플렉시티의 쇼핑 에이전트 코멧이 일반 크롬 브라우저 사용자처럼 위장해 계정에 로그인하고 구매를 실행했다고 소송을 냈다. 2026년 3월 미국 연방법원은 코멧의 구매 대행 행위를 잠정 금지했다. 같은 달 중국에서는 바이트댄스의 AI폰 도우바오가 화면 전체를 읽어 다른 앱을 사용자인 것처럼 조작한다는 이유로 위챗, 알리페이, 타오바오가 접속을 차단했다. 개발사를 상대로 한 소송과 사용자 기기를 상대로 한 차단은 방향이 다르지만 에이전트가 개발사의 제품인지 사용자의 도구인지 아니면 새로운 행위자인지에 대한 질문은 동일하다.
미국에서 2020년부터 2025년까지 AI 관련 소송은 700건을 넘었고 이 기간 증가율은 978%에 이른다. 보험 중개사 갤러거리의 보고서가 이 수치를 제시했다. 아직 판례가 이 공백을 정리하지 못한 상태에서 소송만 빠르게 쌓이고 있다.
법학자 로렌스 솔럼은 1992년 논문에서 법인격이 자연에서 저절로 주어지는 것이 아니라 사회가 필요에 따라 만들어내는 법적 허구라고 분석했다. 회사나 신탁 관리인이 될 수 있느냐는 그의 사고실험이 지금은 AI 에이전트가 계약 당사자가 될 수 있느냐는 질문으로 이어졌다. 이 문제는 국경을 넘는다. 주요국이 에이전트를 의무만 지는 법적 행위자로 볼지 권리까지 갖는 법적 인격으로 볼지 입장을 달리하면 규제 차이가 발생하고 에이전트에 관대한 규제를 설계한 나라가 관련 투자를 유치하는 ‘에이전트 피난처’ 역할을 할 수 있다.
‘AI 때문’이라는 변명은 더 이상 통하지 않는다
캘리포니아주에서 2026년 1월 AB 316법이 시행됐다. 이 법은 AI를 개발하거나 수정하거나 사용한 피고가 “AI가 자율적으로 해를 끼쳤다”는 주장을 항변으로 내세우지 못하게 한다. 그 행동을 승인한 사람이 없었다는 사실만으로는 책임을 벗을 수 없다.
AB 316은 새로운 엄격책임 조항을 만든 것이 아니다. “AI가 알아서 한 일”이라는 항변 하나만 배제했을 뿐이다. 사고와 손해 사이에 실제로 인과관계가 있는지, 그 피해를 미리 내다볼 수 있었는지(예견가능성), 피해자에게도 잘못이 있어 배상액을 줄여야 하는지(과실상계) 같은, 기존에 따져 오던 잣대는 그대로 남아 있다. 에이전트를 위임받은 권한 안에서 움직이는 직원이나 계약자와 유사하게 다루라는 취지에 가깝다.
영국 경쟁시장청(CMA)도 2026년 3월 비슷한 입장을 밝혔다. 고객이 인간을 상대하든 AI 에이전트를 상대하든 소비자법은 동일하게 적용된다. 제3자가 만든 에이전트를 가져다 썼더라도 책임은 이를 배치한 사업자에게 있다. 프롬프트 인젝션으로 인한 실패조차 예외로 인정되지 않으며, 위반 시 전 세계 매출의 10%까지 과징금이 부과될 수 있다. 샌드박스 설계나 권한 통제 같은 보안 공학 조치가 법적 준수 항목이 된 셈이다.
조금 거슬러 올라가 보면, 캐나다에서 2024년 에어캐나다 챗봇 관련 소액 분쟁 판결이 나왔다. 항공사는 챗봇이 회사와 별개의 법적 주체라고 주장했으나 심판정은 이를 받아들이지 않았다. 챗봇이 안내한 환불 정책을 회사에 그대로 이행하도록 했다. 이 판결은 에이전트 책임 원칙의 초기 사례로 평가된다.
한편, 미국에서는 2025년 12월 행정명령(EO 14365)이 주마다 제각각인 AI 규제를 문제 삼았다. 법무부 산하에 주법을 상대로 소송을 제기하는 전담팀을 만들어 연방 차원의 기준을 하나로 통일하려는 움직임이 나타났다. 아동 안전 분야는 예외로 남았다. 다만 행정명령은 의회가 만든 법률이 아니라 대통령의 명령일 뿐이어서, 법원이 주법을 실제로 무효라고 선언하기 전까지는 기존 주법이 그대로 살아 있다. 연방이 기준을 통일하려는 시도와 여전히 효력을 가진 주법이 맞부딪치는 긴장이 남는 셈이다. 여기에 더해 2026년 6월에 나온 또 다른 행정명령은, AI 에이전트를 범죄에 악용하는 자들을 법무부가 우선적으로 수사·단속하도록 방향을 정했다.
학계에서는 이 입법 흐름을 크게 두 가지 관점으로 설명한다.
- 제조물책임 관점: 에이전트를 ‘설계 결함이 있는 위험한 제품’으로 본다. 불량 자동차가 사고를 내면 만든 회사가 책임지듯, 문제를 일으킨 에이전트도 이를 만든 회사가 책임져야 한다는 시각이다.
- 부당이득 관점: 남에게 손해를 끼쳐 얻은 이익은 되돌려줘야 한다는 원칙이다. 에이전트로 이득을 본 회사가, 그 과정에서 생긴 피해까지 함께 떠안아야 한다고 본다.
어느 쪽이든 회사에 책임을 지우면 손익 계산이 달라져, 회사가 스스로 더 안전한 설계를 택하게 된다는 논리다.
현재까지의 방향은 법인격을 새로 만들지 않고 기존 대리법과 불법행위법을 확장하는 실용주의에 가깝다. 다만 이 접근이 앞으로도 유지될지는 다음 단계에서 드러나는 법적 공백과 해석상 균열에 따라 달라질 수 있다.
그러나 현실에 존재하는 많은 한계들
대리법은 사람인 대리인을 전제로 만들어졌다. 사람인 대리인은 본인의 지시를 이해하고 자신이 그 지시에서 벗어났다는 사실도 인지한다. 반면 AI 에이전트의 일탈은 고의나 과실이 아니라 확률적으로 나온 출력값일 뿐이다. 대리법에서 핵심인 본인이 대리인에게 위임한 권한의 범위를 정하는 일도, 매번 실행할 때마다 결과가 달라지는 비결정적 시스템에서는 아직 방법이 없다.
계약 성립 절차도 흔들린다. 사용자의 에이전트가 대신 맺은 계약에 사용자가 구속되는지는 클릭으로 동의하는 약관의 연장으로 볼 수 있다. 그러나 에이전트가 직접 협상하고 조건을 판단했다면 의사표시가 누구의 것인지를 정하는 이론 자체가 흔들린다. 상대방도 에이전트라면 양쪽 모두 사람의 의사가 담기지 않은 계약이 성립하는 문제가 생긴다.
인과관계를 특정하는 일도 어려워진다. 모델을 만든 회사, 파인튜닝과 실행 환경을 설계한 조율사, 시스템을 배치한 기업, 지시를 내린 사용자, 프롬프트를 몰래 주입한 공격자까지 여러 주체가 얽혀 있다. 기존 제조물책임법은 부품 하나의 결함을 추적하도록 설계됐기 때문에 이런 복잡한 사슬에서 결함의 시작점을 찾기 어렵다. 그 결과 누가 언제 무엇을 지시했는지 기록하는 문서화가 사실상 필수 요건이 됐다.
보험은 AI로 인한 손실을 온전히 커버하지 못한다. 갤러거리 2026년 분석에 따르면 사이버보험, 기술 배상책임보험, 제조물배상보험, 영업배상보험 모두 AI 손실을 충분히 보장하지 않는다. 2026년 초 국제보험서비스기구(ISO)가 승인한 신규 배제조항(CG 40 47, CG 40 48)으로 처브, 트래블러스, 버크셔해서웨이 같은 대형 보험사들은 생성 AI 관련 손해를 일반 배상보험에서 제외할 수 있게 됐다. 법이 책임을 강화하는 방향으로 움직이는 동안 보험을 통한 위험 이전 수단은 동시에 줄어들고 있다.
또한 계약서의 배상 조항에도 한계가 있다. 로펌 클리퍼드챈스 분석에 따르면 벤더 배상 조항은 보통 12개월치 수수료를 상한으로 두고 있으며, 많은 에이전트 계약이 아직 사람 직접 조작 시절의 낡은 계약서에 기반한다. 가격을 잘못 매긴 자동 발주 하나가 매달 내는 구독료의 몇 배에 이르는 손실을 낳아도 계약서가 그만큼을 배상할 준비가 되어 있지 않다.
뿐만 아니라 형사법에도 공백이 존재한다. 벌금은 기업에 부과할 수 있지만 구금형은 신체를 가진 행위자를 전제로 한다. 에이전트가 저지른 범죄에서 에이전트를 단순한 도구로 보는 기존 이론이 계속 유효할지, 자율성이 높아질수록 교사나 방조 같은 개념이 성립하기 어려워지는지는 아직 명확하지 않다.
결국 에이전트가 움직이는 속도와, 법이 이를 따라가는 속도 사이에는 격차가 있다. 에이전트는 초 단위로 행동하지만 법은 연 단위로 움직인다. 니폰라이프 사건에서 핵심 문제는 하나의 잘못된 조언이 아니라 44건의 소송 서류가 법률 시스템을 물량으로 압도한 점이었다.
그렇다고 이런 빈틈들이 곧 “에이전트에게 새로운 법적 인격을 만들어 줘야 한다”는 근거가 되는 것은 아니라는 반론이 있다. 앞서 짚은 문제 대부분은, 새 인격을 만들지 않고도 입법으로 메울 수 있다는 것이다. 이를테면 에이전트를 다루는 회사에 의무적으로 보험을 들게 하고, 에이전트를 정부에 등록하게 하며, 결과에 엄격한 책임을 지우는 제도만으로도 상당 부분 대응이 가능하다. 빈틈이 있다는 사실만으로 곧바로 새 인격이 필요하다고 볼 수는 없다는 이야기다.
AI에게 인격이 있느냐 없느냐
누구를 피고석에 세워야 할지 막막할 때, 법이 실제로 꺼내 든 장치 중에는 조금 뜻밖의 것이 있다. 바로 ‘배’다. 앞서 본 수레(디오드)와 닮은 듯하지만, 결정적인 차이가 있어 따로 들여다볼 필요가 있다.
해사법의 대물소송 절차는 선박 자체를 피고로 세운다. 선주가 외국에 있거나 신원이 확인되지 않아도 원고는 배를 상대로 소송을 제기해 배를 압류할 수 있다. 배가 저지른 잘못은 배가 배상한다는 오랜 원칙을 절차화한 것은, 진짜 책임자가 법정에 나오지 않을 때도 피해자가 보상을 받을 통로를 확보하기 위해서였다.
이 선례는 AI 에이전트가 제기하는 문제와 구조적으로 유사하다. 누구를 피고석에 세워야 할지 알 수 없을 때 무엇을 세울 것인가라는 질문이 같다. 대물소송이 내놓은 답은 배에 도덕적 인격을 인정하는 것이 아니라, 추적 가능한 자산에 절차적으로 손을 뻗는 방법이었다. 배를 사람처럼 대우한 것이 아니라 압류 가능한 대상으로 만들었을 뿐이다. 물건을 ‘벌’하려다 결국 폐지된 수레(디오드)와 달리, 이 방식은 물건 뒤에 실제로 존재하는 자산으로 피해를 메우게 하기 때문에 지금도 살아 있다.
챗GPT가 세상에 나오기도 한참 전이다. 유럽의회는 2017년 자율 로봇에 전자적 인격을 부여하는 결의안을 통과시켰다. 찬성 396표, 반대 123표, 기권 85표였다. 그러나 14개국 전문가 150여 명이 공개서한을 통해 반대했다. 반론의 핵심은 두 가지였다. 그만한 수준의 자율 로봇은 그때는 물론 지금도 아직 없다는 점(한마디로 시기상조라는 것)과, 인격을 부여해 주면 그것이 오히려 제조사가 책임을 피하는 수단으로 악용될 수 있다는 점이었다.
반대 의견이 주로 문제 삼는 것은 ‘책임 떠넘기기’다. 에이전트에 인격을 부여하면, 사람이 자기가 져야 할 위험을 그 인격 뒤로 떠넘기는 방패로 악용하기 쉽다. 자본금이 얇은 에이전트 법인을 만들어 위험을 집중시킨 뒤 파산시키는 구조는 유한책임 제도가 과거에 남용됐던 방식과 유사하다. 책임을 질 존재를 만드는 일과 책임을 버릴 곳을 만드는 일은 구분하기 어렵다.
회사법 쪽에서는 논의가 끝나기도 전에 이미 우회로가 나타나고 있다. 밴더빌트대의 다니엘 제르베(Daniel Gervais) 교수와 스탠퍼드 코덱스의 존 네이는 2023년, 현행법만으로도 ‘사람 구성원이 하나도 없는 유한책임회사(LLC)‘를 세울 수 있는 틈새가 있다고 지적했다. 예를 들어 이런 상상을 해보자. 어떤 에이전트가 큰 사고를 냈는데, 책임을 따라 거슬러 올라가 보니 정작 그 회사에는 사람이 단 한 명도 없다면 어떻게 될까. AI가 실질적으로 지배하는 이런 법인은 사람을 붙잡아 처벌하기가 어렵다. 법원의 명령을 따를지 말지조차 결국 AI가 스스로 판단하는 구조이기 때문이다.
문화적 차이도 인격 부여 논의를 복잡하게 한다. 서구는 대체로 ‘AI에게 의식이 있느냐’를 기준으로 인격을 줄지 말지를 따진다. 반면 사물에도 정신이 깃들 수 있다고 보는 일부 동아시아 문화나, 개인보다 공동체를 앞세우는 사회에서는 AI의 지위를 전혀 다른 잣대로 바라본다. 인격 개념 자체가 문화에 따라 다르게 이해된다면 국제적 기준을 만드는 일은 처음부터 어려워진다.
규제 차익을 노리는 움직임도 같은 방향을 가리킨다. 국제적으로 합의가 없는 상태는 결코 중립이 아니다. 결국 에이전트에 유리한 규제를 먼저 만든 나라나 주(州)로 관련 기업과 자본이 몰리고, 그렇게 모인 곳의 기준이 사실상 세계 표준으로 굳어질 수 있다. 실제로 미국 델라웨어주는 19세기 말부터 기업에 유리한 회사법과 회사 분쟁만 전담하는 전문 법원을 갖춰 기업 등록을 끌어들였고, 그 결과 오늘날 미국 주요 상장사 상당수가 델라웨어에 회사를 두는 회사법의 중심지가 됐다. 에이전트 규제에서도 이와 똑같은 쏠림이 나타날 수 있다.
이 글에서 다루는 인격 논의는 어디까지나 ‘책임을 누구에게 어떻게 지울 것인가’라는 실무 문제에 한정한다. AI에게 의식이 있는지, 권리나 복지를 누려야 하는지 같은 질문이 섞이면 논의가 흐려진다. 해사법이 배에 감정이 있다고 여겨서 피고로 세운 것이 아니듯, 에이전트에 책임을 묶을 법적 고리를 만드는 일도 ‘AI가 무언가를 느낀다’는 주장과는 아무 상관이 없다.
법적인 장치는 좀 더 속도를 내야 한다
기업이 먼저 할 수 있는 조치는, 에이전트마다 책임자를 분명히 정해 두는 일이다. AB 316이 요구하는 원칙을 실제로 지키려면, 에이전트마다 무엇을 할 수 있는지 권한 범위를 문서로 정하고, 이를 관리·감독할 사람을 지정하며, 나중에 되짚어 볼 수 있는 행동 기록을 남겨 둬야 한다. ‘이 에이전트의 관리자가 누구냐’는 물음에 답하지 못하는 조직은 소송에서 불리한 위치에 놓인다.
두 번째는 계약서를 지금 상황에 맞게 손보는 일이다. 사람이 일일이 직접 조작하던 시절에 만들어진 낡은 벤더 계약이라면, AI 관련 조항을 전면 다시 봐야 한다. 문제가 생겼을 때 누가 얼마까지 물어줄지(책임 상한), 프롬프트 인젝션 같은 보안 사고는 누구 책임인지, 모델이 바뀌어 성능이 달라지면 미리 알려줄 의무가 있는지, 사고를 따질 로그를 열어 볼 권한이 있는지 — 이런 것들이 빠진 채 배상 한도를 ‘연간 수수료 12개월치’로만 묶어 둔 계약을 그대로 쓰는 것은 위험하다.
세 번째는, 기업이 자사의 보험을 다시 짚어 보는 일이다. 최근 보험표준기구(ISO)가 승인한 배제조항 때문에 보험사들이 AI 관련 손해를 아예 보상에서 빼 버릴 수 있게 됐다. 그래서 기업은 지금 든 보험에 이런 빈틈이 없는지 꼼꼼히 확인하고, 새로 나오는 AI 전용 보장 상품(특약)을 눈여겨봐 둬야 한다. 그래도 보험으로 못 메우는 위험은, 에이전트에 주는 권한 자체를 줄여 회사 안에서 감당하는 수밖에 없다.
이 원칙은 개인에게도 똑같이 적용된다. 내가 쓰는 에이전트에 결제나 계약 권한을 줄 때는, 얼마까지 쓸 수 있는지 한도를 걸어 두고, 잘못됐을 때 취소할 방법이 있는지 확인하며, 에이전트가 맺은 거래에 문제가 생기면 어떻게 해결하는지가 서비스 약관에 적혀 있는지 미리 살펴봐야 한다.
법을 만드는 쪽에도 해야 할 일이 많다. ‘AI가 알아서 한 일’이라는 변명을 막는 AB 316 같은 조항을 널리 퍼뜨리고, 내가 상대하는 것이 사람이 아니라 에이전트임을 알 수 있도록 등록·표시 의무를 두며, 위험이 큰 행위에는 반드시 사람의 승인을 받게 하는 목록을 만드는 일이 필요하다. 니폰라이프 사건처럼 소송 서류를 물량으로 쏟아부어 시스템을 마비시키는 상황에 대비한 장치도 함께 살펴야 한다. 새로운 법인격을 만드는 논쟁보다, 이런 실무적 과제들이 먼저다.
한국도 이 과제에서 예외일 수 없다. 전자문서법과 전자서명법은 에이전트가 표시한 의사를 어떻게 다룰지 규정하지 않고 있다. 제조물책임법이 소프트웨어를 어디까지 포함하는지도 명확하지 않다. AI기본법 시행 이후에도 책임 규정의 공백은 남아 있다. 미국처럼 주별로 다른 법을 실험하는 방식과 EU처럼 단일 프레임을 만드는 방식 사이에서 한국이 선택할 수 있는 경로는 아직 열려 있다.
앞으로 주목할 판례는 세 가지다.
- 니폰라이프 대 OpenAI — 챗봇의 법률 조언이 ‘무면허 법률행위’인지가 쟁점이다. 이미 소송이 진행 중이며, 잘못된 조언 하나가 44건의 소송 서류로 번진 사건인 만큼, 이런 ‘물량 공세’에 법이 어떻게 대응하는지가 관전 포인트다.
- 아마존 대 퍼플렉시티(코멧) — 쇼핑 에이전트가 사용자로 위장해 플랫폼에 접근한 것을 막을 수 있는지, 즉 플랫폼 접근권이 쟁점이다. 2026년 3월 법원이 구매 대행을 잠정 금지한 상태로, 에이전트의 자동 행위를 어디까지 허용할지 가를 기준이 될 수 있다.
- 아직 나오지 않은 첫 에이전트 간 계약 분쟁 — 양쪽 모두 에이전트가 맺은 계약이 성립하는지, 그 책임은 누구에게 있는지를 처음으로 가리게 될 사건이라 가장 주목된다.
앞으로 1~2년 안에 나올 이 판결들이 향후 법 적용의 큰 방향을 정할 가능성이 크다.
피고인석이 비어 있을 때 법이 실제로 해온 일을 보면 방향은 한결같다. 디오드는 물건을 벌해 사람에게 돈을 물리려다 결국 폐지됐고, 대물소송은 배를 압류해 진짜 책임자를 못 찾아도 피해자가 보상받을 길을 열었다. 결국 에이전트에게 필요한 것은 법정에 세울 새로운 인격이 아니다. 그 에이전트 뒤에 있는 회사의 돈, 들어 둔 보험, 등록된 책임자처럼 ‘실제로 책임질 수 있는 대상’에 법이 닿을 수 있게 해 주는 것이다. 캘리포니아 AB 316이 ‘AI가 알아서 했다’는 변명을 막은 것도, 영국 CMA가 ‘남이 만든 에이전트라도 그것을 가져다 쓴 사업자가 책임진다’고 못 박은 것도 모두 같은 흐름이다.
지금 법이 택한 방식은 사람과 법인, 추적 가능한 자산에 책임을 묶어 두는 것이다. 하지만 이 방식이 언제까지 통할지는 아직 알 수 없다. 분명한 것은, 기술의 발전 속도가 법과 제도가 따라잡는 속도를 이미 한참 앞질렀다는 사실이다. 다른 어떤 영역보다도 책임의 규칙이 또렷하게 준비돼 있지 않으면, 에이전트가 본격적으로 퍼질 때 뒤따를 혼란은 피하기 어렵다. 그래서 지금 필요한 것은 사고가 터진 뒤의 수습이 아니라, 한발 앞서 서두르는 일이다. 정책과 입법 논의를 부지런히 앞당겨 책임의 규칙을 미리 세워 두는 준비 — 그것이 소프트웨어가 스스로 행동하기 시작한 이 시대가 우리에게 남긴 가장 급한 숙제다.