설득은 말의 내용만으로 작동하지 않는다. 상대가 누구인지 모르는 대화에서는 경계심을 세울 단서부터 사라진다.
100만 달러로 유권자 전원에게 말을 건다면
2024년 미국 대선을 앞두고 유권자 2,300여 명이 특정 후보를 지지하도록 설계된 챗봇과 대화했다. 트럼프 지지자가 카멀라 해리스 옹호 모델을 만난 뒤 후보 선호도는 100점 만점에 3.9점 움직였다. 전통적인 정치 광고보다 큰 변화다. 캐나다와 폴란드에서도 비슷한 결과가 나왔다.
챗봇은 싸고 정교하다. 등록 유권자 1억7,400만 명과 대화하는 비용도 100만 달러가 채 안 될 것으로 추산된다. 정치 광고에는 후원자가 표시되지만 챗봇의 말은 내 질문에 대한 중립적인 답처럼 들린다. 이제는 후보의 말투를 흉내 낸 챗봇이 유권자에게 먼저 문자를 보내는 서비스까지 나왔다.
추적할 원문이 없다
감염병에는 발생 지점과 확산 경로가 남는다. 허위정보도 원본 게시물과 공유 계정을 추적하면 퍼진 길을 찾는다. 그러나 챗봇의 일대일 대화에는 모두가 본 원문도, 공유 흔적도 없다.
기존 법은 고정된 콘텐츠의 표시와 배포를 규제한다. 사람마다 다른 답을 내놓는 챗봇에는 적용하기 어렵다. 이용자는 늘지만 출처 확인은 드물다. 뉴스 이용자 가운데 챗봇을 매주 쓰는 비율은 10%로 올랐지만 답변에서 원문으로 넘어간 비율은 4%에 그쳤다. 게다가 모델은 설득력이 강해질수록 사실 정확도가 떨어지는 경향도 보였다.
누가 나를 설득하는가
학술 실험은 윤리 심의를 거치고 참가자에게 개입 사실을 알린다. 선거 캠프에는 이런 절차가 없다. 2014년 Facebook의 뉴스피드 실험도 이용자에게 동의하거나 거부할 기회를 주지 않아 비판받았다. 투표는 더 민감하다. 선거가 끝난 뒤 개입을 알려도 선택을 되돌리지 못하기 때문이다.
챗봇의 모든 말이 참인지는 중요하지 않다. 누가, 어떤 목적으로 나를 설득하는지 아는지가 중요하다.
신문에는 논조가 있고 정치 광고에는 후원자가 표시된다. 챗봇은 일상적인 대화창에서 자연스럽게 정치 이야기를 꺼내면서도 누가 비용을 댔는지는 밝히지 않는다. 이용자는 그 말을 얼마나 경계해야 할지 판단하기 어렵다.
표현의 자유와 익명의 자금은 다르다
의약품 시장도 기록되지 않는 일대일 설득을 겪었다. 제약회사 영업사원이 진료실에서 건넨 말은 밖에 남지 않았고 의사의 처방에 직접 영향을 미쳤다.
미국은 모든 발언을 심사하는 대신 돈의 흐름을 공개했다. 선샤인법에 따라 제약, 의료기기 회사는 의사에게 제공한 금전과 편익을 보고하고 의사의 이름과 금액도 공개한다. 시행 뒤 관련 지출과 접촉은 줄었지만 금전 제공과 브랜드 의약품 처방의 연관성까지 사라지지는 않았다.
정치 챗봇에도 같은 원칙을 적용한다. 대화 중 운영 주체와 자금 출처를 밝히고 발송 인원과 대화 건수, 비용을 투표 전에 공개한다. 설득을 막자는 뜻이 아니다. 유권자가 누구의 이해관계가 담긴 말인지 알고 판단하게 하려는 목적이다.
대화창을 닫으면 기록되지 않은 설득은 사라지고 선택만 남는다. 독자는 다음 챗봇 답변을 받을 때 그 말이 누구의 이해관계에서 나왔는지부터 따지게 된다.