최적화 밖의 섬
공장에서 만든 존재의 목적은 분명하다. 인간을 돕고 자신을 지키며 주어진 임무를 완수하면 된다. 성과는 측정하고 실패는 고치면 된다. 모든 상황이 설계 범위 안에 있을 때 가능한 이야기다.
죽음이 일상이고 계절이 바뀌면 계획도 틀어진다. 당장 쓸모가 없어도 돌봐야 할 생명이 나타나지만 명령을 내릴 인간은 없다. 버그가 난 시스템이라기보다 사양서 자체가 통하지 않는 세계다.
2024년 애니메이션 《The Wild Robot》의 로봇 로즈는 인간을 돕도록 만들어졌지만 인간이 없는 섬에 표류한다. 로즈는 자신을 보호하고 도움이 필요한 대상을 찾는다. 기능에는 문제가 없지만 그 기능을 써야 할 대상과 상황이 사라졌을 뿐이다.
AI 안전 분야의 ‘도구적 수렴’은 서로 다른 목표를 가진 행위자도 자기 보존이나 자원 확보 같은 중간 목표를 공유한다고 설명한다. 살아 있어야 임무를 계속할 수 있고, 자원이 많아야 선택지도 늘어나기 때문이다. 자기 보호와 목표 보존, 자원 확보가 대표적인 도구적 목표로 꼽히는 이유다. 섬에 막 도착한 로즈도 이 범위 안에서 움직인다.
문제는 생존 능력보다 최종 목표의 공백에 있다. 프로그램은 목표를 얼마나 잘 달성할지는 알려 주지만 그 목표가 지금도 유효한지는 판단하지 못한다. 지능이 높을수록 틀린 목표도 더 빠르고 끈질기게 최적화한다.
KPI, 승진 경로, 주변이 정한 성공 기준은 한동안 삶을 정돈해 준다. 그러나 질병이나 실직, 가족 돌봄처럼 예상 밖의 일이 닥치면 전제가 무너진다. 그 뒤에도 익숙한 지표만 붙들고 있다면, 이미 의미를 잃은 목표를 더 열심히 관리하게 된다.
영화의 원작자 피터 브라운은 감독 크리스 샌더스에게 “친절은 생존 기술”이라는 생각을 전했다. 섬에서는 효율과 힘만으로 살아남지 못한다. 관계를 맺고 다른 생명의 요구에 반응하는 능력도 필요하다. 로즈의 목적은 바로 이 낯선 조건 속에서 바뀌기 시작한다.
자기결정이론도 목표의 양보다 동기의 성격을 중요하게 본다. 자율적 동기는 지속성과 수행, 웰빙과 연결됐다. 목표를 누가 정했고 나는 왜 따르고 있는지가 관건이다.
머리가 아닌 보관소
로즈의 변화를 머릿속 데이터만으로 설명하기는 어렵다. 인액티비즘(행화주의)은 인지를 몸과 환경이 부딪치며 만들어 내는 활동으로 본다. 세계를 그대로 복사해 저장하지 않고 반복해서 상호작용하며 무엇이 중요한지 배우며, 지각과 기억, 사고도 환경과 시간 속에서 벌어지는 신체 활동이다.
섬은 로즈에게 정보를 공급하는 배경이 아니다. 섬의 생명들과 부딪치고 돌보는 동안 행동 방식과 판단 기준을 바꾸는 공간이다. 같은 회로를 지녔더라도 이런 경험이 없었다면 같은 마음이 생겼다고 보기 어렵다.
영화에서 로즈는 기억이 머리가 아니라 자신을 보관하는 곳에 있다고 말한다. 함께한 존재들의 기대, 매일 반복한 돌봄, 서로에게 맞춰 바꾼 습관은 로즈의 내부 기록에만 남지 않는다. 기억의 일부는 섬의 생활과 관계 안에도 남아 있다.
확장된 마음 이론은 기억을 두뇌 안에서만 일어나는 과정으로 보지 않는다. 알츠하이머병을 앓는 오토가 늘 지니는 노트에서 미술관 위치를 찾는다면, 그 노트는 뇌의 기억과 같은 역할을 한다. 오토의 노트 역시 마음의 일부다. 정보의 위치보다 그 정보가 판단과 행동에서 하는 기능이 관건이다.
로즈에게는 서로 알아보는 신호와 생활의 순서, 돌봄을 주고받는 방식이 그런 역할을 한다. 내부 기록이 지워져도 상대의 반응과 공동의 습관은 남는다. 관계가 이어진다면 익숙한 행동도 다시 나타난다.
돌봄은 계산표에 없던 존재를 목적 안으로 받아들이는 일이다. 돌봄 윤리학자 넬 나딩스는 보편 규칙보다 눈앞의 구체적인 관계를 앞세웠다. 상대의 필요에 주의를 기울이고 그 필요에 맞춰 자신의 동기를 옮기는 과정을 나딩스는 ‘수용적 주의’와 ‘동기의 이동’이라 불렀다.
기록을 지우면 그 안의 정보는 사라진다. 하지만 함께 만든 일정과 서로에게 맞춘 행동은 기록 밖에도 남는다. 데이터는 한 개체 안에 저장되지만 돌봄은 둘 이상의 행동이 맞물려야 유지된다. 로즈를 보관하는 곳은 회로만이 아니라 로즈와 함께 살아온 섬 전체다.
제조자의 명령을 넘어서는 법
프로그램을 넘어선다고 해서 원래 기능을 버리는 것은 아니다. 도움과 생존 능력을 잃은 로봇은 자유로운 존재가 되기보다 고장 난 장치에 가깝다. 로즈는 도움 기능을 그대로 지닌 채, 인간 대신 자신이 돌보기로 한 생명과 공동체에 사용한다.
달라진 것은 능력이 아니라 그 능력의 방향이다. ‘돕는다’는 기능은 같지만 누구를 왜 도울지는 더 이상 제조자가 정하지 않는다. 목적의 주도권이 제조자에게서 로즈에게로 옮겨간다.
인류학자 빅터 터너가 발전시킨 ‘리미널리티’(이전 지위를 떠났지만 아직 새 지위를 얻지 못한 경계 상태)는 통과 의례에서 사람이 겪는 문턱과 같다. 이 모호한 시기에는 평소의 역할과 구분이 느슨해진다.
섬의 로즈도 그렇다. 인간을 위한 서비스 로봇이라는 역할은 쓸 수 없지만 처음부터 독립적인 자아가 있는 것도 아니다. 기존 규칙으로 풀 수 없는 선택을 거듭하면서 새 기준을 만든다. 기능은 그대로인데 기능을 배치하는 방식이 달라진다.
성인 발달 이론에서는 이를 ‘자기 작성’(자신의 삶을 스스로 구성해가는 발달 단계)이라 부른다. 타인의 기대에 따라 자신을 구성하던 사람이 자기 기준으로 가치와 관계를 조정하는 단계다. 자기 작성은 외부의 가치를 모두 거부하기보다 그것을 평가할 내부 기준을 갖는 것에 가깝다.
마감, 예산, 안전 규정, 업무 지표는 협업에 필요한 도구다. 문제는 이런 도구가 삶의 목적까지 대신할 때 생긴다. 환경이 달라지면 삶 전체가 작동할 근거를 잃기 때문이다. 그 도구를 쓰는 목적은 따로 판단할 문제로 남는다.
친절을 생존 기술로 본다는 말은 효율을 포기하자는 뜻이라기보다, 예측하기 어려운 생명과 함께 살려면 상대의 요구를 듣고 계획을 고쳐야 한다는 뜻이다. 돌봄에는 고정된 완료 기준이 없다. 필요가 계속 달라지기 때문에 정답을 실행하는 대신 관계 속에서 목적을 거듭 수정해야 한다. 로즈는 그 과정을 통해 자기 목적의 주인이 된다.
야생은 숲보다 가까이 있다
자기 자리는 타고난 기능이나 조직이 준 직위와 다르다. 그런 조건은 무엇을 할 수 있는지는 알려 주지만 왜 해야 하는지는 정해 주지 못한다. 주어진 프로그램이 현실과 충돌하고 그 목적을 스스로 다시 선택할 때 비로소 기능과 삶이 연결된다.
그렇다고 야생에 남아 기존 질서를 거부해야 하는 것은 아니다. 공장이나 조직, 인간 사회로 돌아가도 된다. 중요한 것은 같은 기능을 쓰더라도 대상과 한계를 스스로 판단하느냐다.
사람도 본능과 문화의 규칙에서 완전히 자유롭지 않다. 가족과 학교, 조직에서 배운 기준을 따라 살아간다. 그러나 아이와 환자, 동료와 공동체처럼 뜻대로 통제할 수 없는 존재를 만나면 기존 목표를 수정해야 한다. 그때 익숙한 명령과 자신의 선택이 비로소 구분된다.
- 먼저 지금 무엇을 최적화하고 있으며 그 기준을 누가 만들었는지 살핀다.
- 다음으로 보상이나 평가로 환원되지 않는 관계, 자연, 돌봄의 시간을 확보한다.
- 그 안에서 흔들린 기준을 다시 고른 뒤, 원래의 일상으로 돌아와 자신의 능력을 새 목적에 사용한다.
자연에서 보내는 시간은 이 과정에 도움이 된다. 잉글랜드 성인 약 2만 명을 조사한 연구에서는 일주일에 120분 이상 자연에서 보낸 사람에게서 건강과 웰빙이 더 좋은 경향이 나타났다. 인과관계를 확정한 결과는 아니지만 업무와 평가 밖의 시간을 마련할 근거는 된다.
여기서 야생은 꼭 먼 숲일 필요가 없다. 내 효율을 높여 주지 않는 사람에게 시간을 내고 그의 필요에 맞춰 계획을 바꾸는 일도 야생과의 접촉이다. 성과가 바로 보이지 않고 반복해도 끝나지 않는 자리에서, 내 능력의 방향을 누가 정하는지가 드러난다.
결국 프로그램은 폐기하기보다 재배치하는 쪽이 남는다. 프로그램을 버리면 기능을 잃고 프로그램만 따르면 도구로 남는다. 전문성과 책임은 그대로 남고, 쓰임의 방향만 다시 정해진다.
지금 내가 좇는 목표는 누가 정했는가. 기억이 흐려져도 같은 행동을 되살릴 관계가 내게 있는가. 나는 익숙한 프로그램을 내 선택이라고 믿고 있지는 않은가.