핵심 요약
마크 저커버그가 제시한 메타의 AI 철학은 다음 세 가지로 압축된다.(원문: https://www.meta.com/thefutureisforeveryone/)
- 개인 역량 강화(Individual Empowerment)가 번영의 원천이다.
- 발명(Invention)이 슈퍼인텔리전스의 본래 목적이다 (단순 자동화가 아님).
- 권력의 균형(Balance of Power)이 안전의 기초다.
슈퍼인텔리전스는 소수의 기관에 집중될 수도 있고, 모든 사람에게 분산되어 개인의 도구가 될 수도 있다. 메타는 후자를 선택한다. 중앙집중식 ‘단일의 자비로운 초지능’은 존재하지 않으며, 역사적으로도 위험하다는 입장이다. 대신 수십억 명의 개인에게 강력한 개인 에이전트와 발명 도구를 제공함으로써, 자연스러운 견제와 균형이 형성되고 더 안전하고 풍요로운 미래가 만들어진다고 주장한다.
메타가 실제로 추진하는 주요 방향은 다음과 같다.
- 24시간 나를 이해하고 돕는 개인 슈퍼인텔리전스 에이전트
- 누구나 쉽게 아이디어를 구현할 수 있는 창작·발명 도구
- 자본과 팀 없이도 사업을 시작할 수 있는 창업 도구
- 모든 과목에 박사급 수준의 개인 맞춤 튜터
- 과학 발견에 직접 참여할 수 있는 연구 지원 도구
- 수십억 명에게 무료 또는 저렴하게 제공
안전 문제에 대해서는 “하나의 초지능을 완벽하게 정렬(align)하는 것”이 아니라, 모든 사람이 비슷한 수준의 능력을 갖게 하여 권력의 균형을 맞추는 것이 현실적인 해결책이라고 본다. 오픈소스 역시 이 균형을 위한 중요한 수단으로 적극 지지한다.
The Future is for Everyone(전문 번역)
The Path to a Positive AI Future
우리는 역사적으로 특별한 순간에 살고 있다. 앞으로 몇 년 안에 사람들은 인간 능력을 뛰어넘는 슈퍼인텔리전스를 활용해 새로운 것을 창조하고 발견하며, 새로운 사업을 만들고, 새로운 아이디어를 표현하고, 새로운 개념을 배우며, 건강과 삶의 질을 향상시킬 수 있게 될 것이다. 이 순간에 가까워질수록, 슈퍼인텔리전스가 우리 모두의 삶, 일, 공동체, 자유와 안전을 개선하는 데 쓰이도록 철학을 정립하는 것이 중요하다.
우리 시대를 규정하는 질문은 두 가지다. 누가 슈퍼인텔리전스에 접근할 것인가, 그리고 그것을 무엇을 향해 사용할 것인가. 소수의 기관에 집중되고 제한될 것인가, 아니면 모든 사람을 강화하는 도구가 될 것인가?
우리는 개인의 역량 강화가 번영의 원천이고, 발명이 슈퍼인텔리전스의 본래 목적이며, 권력의 균형이 안전의 기초라는 철학을 제안한다.
모든 새로운 기술은 기회와 도전을 동시에 만든다. 슈퍼인텔리전스는 역사상 가장 중요한 기술 중 하나가 될 것이므로, 그 기회와 도전 역시 우리 세대가 경험한 그 어떤 것보다 클 것이다. 우리는 이를 매우 진지하게 받아들여야 한다.
그런데 많은 AI 개발 담론이 유독 파멸론으로 가득 찬 것은 놀랍다. AI가 대부분의 일자리를 없애고 인류의 존재 의미를 크게 줄일 것이라고 믿는 사람이, 왜 그런 미래를 서둘러 만들려고 하는지 이해하기 어렵다. AI가 너무 위험해서 극단적인 권력 집중만이 유일한 안전 경로라는 생각 자체도 본질적으로 문제가 있다. 역사적으로 ‘충분히 계몽된 절대 권력이 인류를 자비롭게 돌봐줄 것’을 기대한 결과는 안전하거나 긍정적이었던 적이 거의 없다.
인류는 수많은 변혁적 발전을 겪어왔다. 그때마다 사람들이 뒤처질 것이라는 두려움이 있었다. 그러나 매번 더 많은 사람들이 더 큰 번영과 건강, 자유를 공유하는 결과로 이어졌다. 우리는 AI에서도 마찬가지일 것이라고 믿는다. 미래의 풍요는 모두가 나눌 수 있다. 또한 우리를 여기까지 이끈 가치들 — 자유, 열린 탐구, 자유기업, 평등한 기회 — 이 긍정적인 미래를 만드는 데도 올바른 가치라고 생각한다.
사람들이 자신의 열망을 추구할 수 있도록 권력을 손에 쥐어주는 것이, 인류가 가장 큰 진전을 이룬 방식이었다. 새로운 아이디어와 큰 도약은 기존 기관에서만 나오지 않았다. 사람들이 날 수 있다고 믿은 자전거 가게 형제들, 정규 교육을 받지 못한 제본공 도제, 개인용 컴퓨터가 모든 사람을 위한 것이라고 생각한 차고의 젊은이로부터 나왔다. 우리는 앞으로도 그럴 것이라고 믿는다. 모든 사람이 더 강력한 도구를 가질수록, 각 개인은 미래를 형성하는 능력이 줄어드는 것이 아니라 더 커질 것이다.
슈퍼인텔리전스의 가장 큰 기여는 자동화가 아니라 발명이 될 것이다. 초기 AI는 질문에 답하고 일상적인 일을 처리할 수 있었다. 곧 그것은 새로운 지식을 발견하는 데 점점 더 도움을 줄 것이다 — 가족 구성원의 병을 치료할 신약을 찾는 것부터, 자신의 사업을 개선할 새로운 방법을 찾는 것까지. 하루 동안 한 사람이 던질 수 있는 질문의 수는 제한되어 있지만, 슈퍼인텔리전스가 당신의 목표를 돕기 위해 발명할 수 있는 가치 있는 것의 수는 무한하다.
지능이 풍부해지면 가장 중요한 질문은 그것을 어떻게 방향 지을 것인가가 된다. 어떤 사람들은 슈퍼인텔리전스 자체나 그것을 통제하는 소수의 전문가가 인류에게 무엇이 최선인지 결정해야 한다고 주장한다. 우리는 동의하지 않는다. 민주주의와 경제의 역사는, 사람들이 ‘좋은 삶’을 어떻게 정의하는가에 대해 단일한 객관적 답이 없음을 보여주었다. 따라서 최선의 접근은 사람들이 자신의 삶에서 무엇이 중요한지를 스스로 결정하게 하는 것이다.
우리는 슈퍼인텔리전스를 모든 사람에게 전달하는 것이 이 질문에 답하는 길이라고 믿는다. 이는 슈퍼컴퓨터와 인터넷의 힘을 모든 사람의 주머니와 책상 위에 올려놓은 전통과 같다. 슈퍼인텔리전스를 중앙에 집중시키기보다, 널리 분산시켜 모든 사람이 그것을 직접 방향 지을 수 있게 해야 한다. 이것은 개인이 자신의 잠재력을 최대한 발휘하고, 관심사를 추구하며, 이전보다 더 크게 자신과 세상을 개선할 수 있는 새로운 개인 역량 강화의 시대를 열 수 있다.
이를 더 구체적으로 보면, 메타가 모든 사람의 삶을 개선하기 위해 구축하고 있는 개인 슈퍼인텔리전스의 몇 가지 모습은 다음과 같다.
• 모든 사람이 자신과 자신의 목표, 관심사를 깊이 이해하는 뛰어난 개인 에이전트를 갖게 된다.
이 에이전트는 24시간 당신을 위해 일하며 인간관계, 건강, 커리어, 재정, 가사, 취미 등을 개선한다. 당신이 즐기는 일에 더 많은 시간을 쓸 수 있게 해주고, 혼자서는 할 수 없었던 일을 가능하게 한다. WhatsApp의 암호화처럼 강력한 프라이버시와 보안 옵션을 제공해, 누구도 당신의 정보에 접근할 수 없다는 신뢰를 바탕으로 모든 개인 콘텐츠를 다룰 수 있다. 안경을 포함한 어떤 기기를 통해서도 상호작용할 수 있어, 소중한 사람들과 함께하는 순간에 더 온전히 존재할 수 있다.
예를 들어, 내 에이전트는 흥미로운 정보를 알려주고 아이디어를 프로토타이핑하는 데 도움을 준다. 수면을 모니터링하고 운동할 때 지켜보며 피드백을 주어 건강을 관리한다. 딸이 베이킹을 좋아해서, 에이전트가 매주 주말에 함께 만들 맞춤 레시피를 계획하고, 재료를 주문하며, 베이킹하는 동안 조언을 준다.
• 모든 사람이 자신의 아이디어를 표현할 수 있는 놀라운 창작 도구를 갖게 된다.
내 8살 딸은 이미 저녁 한 시간 만에 자신의 아이디어를 코딩하고 영상을 만든다. 예전에는 나 자신이 몇 달이 걸리거나 아예 불가능했던 일이다. 지금은 함께 로봇을 설계하고 있다. 메타의 연구자들은 증강현실 안경에 적합한 새로운 결정 구조를 생성하고 있고, 엔지니어들은 이전보다 훨씬 짧은 시간에 새로운 앱을 만들고 있다. 곧 모든 사람이 발명의 초능력을 갖게 될 것이다.
• 모든 사람이 새로운 사업을 만들 수 있는 강력한 도구를 갖게 되고, 경제는 더 기업가적으로 변한다.
사람들은 이제 자금을 모으거나 큰 팀을 꾸리지 않고도 스스로 아이디어를 실현하기 시작하고 있다. 예전에는 너무 어렵거나 비용이 많이 들어 시도조차 못 했던 많은 아이디어가 가능해진다. 이는 훨씬 더 많은 아이디어와 사업으로 이어질 것이다. 나는 이것이 더 큰 경제 성장을 가져올 뿐만 아니라, 장기적으로는 일자리를 줄이는 것이 아니라 늘릴 것이라고 예측한다.
• 모든 사람이 모든 과목에 박사 수준의 지식과 무한한 인내심을 가진 개인 맞춤 튜터와 코치를 갖게 된다.
학생들은 현재 부모의 경제적 여유에 따라 제한되던 추가 도움을 받을 수 있다. 성인들은 새로운 직업 기술, 언어, 취미 등 관심 있는 무엇이든 정확히 가르쳐 주는 슈퍼인텔리전트 학습 도우미를 갖게 된다.
• 모든 사람이 과학적 진보의 혜택을 누리고, 과학 발전에 직접 기여할 수 있게 된다.
예를 들어, Biohub는 이미 가상 세포와 단백질 관련 오픈소스 생물 모델을 공개해 과학자들이 새로운 발견을 하고 신약을 설계하는 데 도움을 주고 있다. 프리실라와 내가 이 일을 시작했을 때의 목표는 이번 세기에 모든 질병을 치료하거나 예방하는 것이었는데, 이제 AI의 발전으로 그 시기가 훨씬 앞당겨질 것으로 기대한다.
건강 상태에는 긴 꼬리가 있고 모든 사람의 생물학은 다르기 때문에, 사람들의 직접적인 참여가 개인 맞춤 치료법을 열고 발명 속도에 맞춰 임상시험을 가속화하며, 산업이 흔한 질병에만 과도하게 집중하는 것을 넘어설 수 있게 할 것이다.
생물학을 넘어, AI는 사람들이 모든 분야에서 과학적 방법을 적용하고 몇 주, 몇 달에 걸쳐 가설을 검증·정교화하며 연구를 진전시키는 데 도움을 줄 것이다. 과학적 발견은 사회에 가장 가치 있는 발명 형태 중 하나가 될 가능성이 높다.
• 모든 사람이 이 도구들에 무료 또는 저렴하게 접근할 수 있다.
모두가 미래의 일부가 되려면, 모두가 슈퍼인텔리전스를 사용해 자신의 삶을 개선하고 세상을 형성할 수 있어야 한다. 우리는 수십억 명이 접근할 수 있는 무료 버전을 제공할 것이다. 더 많은 컴퓨팅을 사용하고 싶은 사람들을 위해서는, 동적 경매 메커니즘을 통해 모든 사람이 가능한 가장 낮은 가격으로 지능과 컴퓨팅을 사용할 수 있게 하면서, 동시에 용량이 사람들이 집단적으로 가장 가치 있다고 여기는 곳에 쓰이도록 보장할 것이다. 이를 통해 슈퍼인텔리전스의 혜택이 널리 분배될 것이다.
이것이 메타가 집중하고 있는 주요 노력들이다. 각 영역은 개인 역량 강화라는 가치를 진전시키며, 오늘보다 모든 사람이 세상을 형성하는 데 더 큰 역할을 하는 미래에 기여한다. 이 노력들이 성공한다면, 미래는 개인적 주체성의 풍요, 아이디어의 표현, 관계의 심화, 경제적·재정적 번영, 건강의 향상, 그리고 오늘날 우리가 상상조차 할 수 없는 발명들로 가득할 것이다. 그러나 가장 중요한 것은, 그 미래가 우리 모두가 만들어가는 것이며, 우리 모두의 가치와 관점을 반영한 것이 될 것이라는 점이다.
동시에 새로운 기술은 새로운 위험도 가져온다. 우리는 일자리 대체 우려, 데이터센터 건설이 지역 공동체에 미치는 영향, 사이버보안과 바이오리스크 관련 AI 오용, 정부의 폭정과 감시 방지, 미국과 민주 국가들의 리더십 확보, 그리고 궁극적으로 인류가 슈퍼인텔리전스에 대한 통제권을 유지해 그것이 우리를 위험에 빠뜨리는 대신 봉사하게 만드는 문제 등 많은 중요한 우려에 집중하고 있다.
통념은 이러한 우려가 기술에 대한 것이며, ‘정렬(alignment)’을 통해 하나의 자비로운 슈퍼인텔리전스를 만들면 해결될 수 있다는 것이다. 나는 이 견해가 근본적으로 잘못되었다고 생각한다.
인류는 단일 문화가 아니다. 사람들의 다양한 가치는 중요한 문제에서 서로 다른 트레이드오프를 나타낸다. 모든 사람의 상충하는 이해와 가치에 동시에 정렬되는 기술적 해결책은 없다. 어떤 단일 슈퍼인텔리전스라도 일부 가치를 다른 가치보다 우선시할 수밖에 없으며, 그 과정에서 모든 사람에게 자비로울 수는 없다.
대신 우리는 이러한 우려 각각을, 서구 사회가 민주적 통치 제도에서 해온 것처럼, 올바른 권력의 균형을 달성하는 렌즈를 통해 바라보는 것이 더 생산적이라고 제안한다. 서로 경쟁하는 이해관계를 가진 사람들과 기관들은 자연스럽게 서로를 견제하고 균형을 맞춰 긍정적인 결과로 이끈다. 긍정적인 AI 미래를 만드는 가장 실현 가능하고 현실적인 길은 슈퍼인텔리전스를 모든 사람에게 전달하는 것이다.
사고 실험으로, 단 한 사람만 슈퍼인텔리전트 변호사를 가진다고 상상해 보자. 그 사람은 법정에서 부당한 이점을 얻게 된다 — 심지어 실체적으로 틀렸을 때조차. 이는 더 나쁜 사회로 이어진다. 그러나 모든 사람이 슈퍼인텔리전트 변호사를 가진다면, 소송에서 기술과 자원의 불균형이 줄어들어 정의가 훨씬 더 공정하고 효율적으로 실현될 것이다.
마찬가지로, 한 사람만 사이버보안 슈퍼인텔리전스를 가진다면, 거의 모든 기술 시스템에 침투할 수 있어 세계는 오늘보다 훨씬 덜 안전해질 것이다. 그러나 모든 사람이 접근할 수 있다면, 널리 배치된 슈퍼인텔리전스가 모든 시스템을 강화하고 업데이트하는 데 도움을 주어 오늘보다 더 안전해질 것이다.
한 기업만 슈퍼인텔리전스를 가진다면, 그 기업이 모든 경쟁자를 압도해 오늘날보다 덜 역동적이고 덜 광범위한 번영을 누리는 시장이 될 것이다. 그러나 모든 사람이 접근할 수 있다면, 모든 사람이 오늘날 불가능한 새로운 것을 만들 도구를 갖게 되어 경제는 더 역동적이고 더 광범위한 번영을 만들어낼 것이다.
사람들이 역량을 강화받으면, 경제적으로, 사회적으로, 정치적으로, 그리고 인간 상호작용의 모든 영역에서 자연스럽게 경쟁하고 서로를 견제한다. 사람들은 또한 기업과 정부를 포함한 기관의 권력도 견제하고 균형 잡는다.
그러나 슈퍼인텔리전스의 힘이 소수의 개인, 기업, 정부, 또는 AI 자체에 집중된다면, 그것은 자연스럽게 나머지 사람들에게 덜 유리한 결과로 이어진다. 이것은 기술적 원리가 아니다. 권력의 균형에 관한 문제다. 단일한 자비로운 슈퍼인텔리전스 같은 것은 존재하지 않는다.
따라서 모든 사람을 위한 긍정적인 미래의 핵심은 개인에게 유리한 권력의 균형을 달성하는 것이다. 해결책은 슈퍼인텔리전스를 광범위하게 분산시켜 사람들을 강화하는 것이다.
메타는 주로 모든 사람을 위한 개인 슈퍼인텔리전스를 구축하는 데 집중하는 회사다. 대부분의 다른 연구소는 기업, 정부, 또는 다른 기관을 위한 AI를 구축하는 데 집중하고 있다. 따라서 그 연구소들이 선도한다면, 권력의 균형은 개인보다 더 큰 기관에 유리하게 기울 것이다. 메타의 창립 이래 미션은 사람들의 손에 권력을 쥐어주는 것이었다. 우리의 신념과 원칙이 선도한다면, 권력의 균형은 개인에게 유리해지고 모든 사람을 위한 더 나은 미래가 될 것이다.
위에서 언급한 각 위험을 더 자세히 살펴보자.
Job Growth and The Economy
사람들은 새로운 경험에 대한 무한한 수요를 가지고 있으며, 항상 새로운 문제를 찾아 해결해 왔다. 경제에는 기업이 자동화를 통해 사람들의 필요를 더 효율적으로 충족시키려는 노력과, 개인이 더 고도화된 필요를 충족시키기 위해 새로운 기술을 습득하려는 노력 사이에 자연스러운 균형이 존재한다. 건강한 균형이 유지될 때, 전반적인 생산성과 혁신은 증가하면서도 고용 수준은 높게 유지된다.
사람들은 자동화가 개인의 역량 성장을 앞질러 일자리 대체가 발생하고, 사람들이 새로운 직업을 배우는 어려운 시기가 뒤따를 것을 두려워한다. 그러나 AI가 반드시 자동화의 속도를 개인의 역량이나 새로운 기술에 대한 수요의 성장보다 빠르게 높여야 한다는 규칙은 없다. 최근 통계는 오히려 개인의 역량 성장이 자동화에 필적하거나 앞설 가능성이 더 높다는 점을 시사한다. 이 경우 사람들은 현재의 직업이 변하기 전에 이미 많은 새로운 일을 할 수 있는 능력을 얻게 되고, 이는 건강한 균형과 잠재적으로는 일자리 증가로 이어질 것이다.
어떤 결과가 나올지는 자동화 한 쪽과 개인 역량 강화 및 발명 다른 쪽 사이의 진전 균형에 달려 있다. 지식 노동을 자동화하는 데 집중하는 연구소들이 선도한다면, 사람들과 경제는 훨씬 더 어려운 전환을 겪을 것이라고 예상한다. 그러나 모든 사람이 자신의 역량을 확장하는 개인 슈퍼인텔리전스에 접근할 수 있다면, 그 균형은 개인을 강화하는 쪽으로 기울어지고 긍정적인 미래가 된다.
미래에 일자리가 풍부할 것이라고 낙관할 수 있는 몇 가지 이유가 있다. AI가 아무리 똑똑해져도 컴퓨팅의 양은 유한하기 때문에, 그것을 어떻게 사용할지에 대한 기회비용이 항상 존재한다. 사람들이 AI를 사용해 매우 가치 있는 새로운 것을 발명할 수 있다면, 기존 일자리를 자동화하는 것보다 그쪽으로 할당하는 것이 더 합리적일 것이다. 슈퍼인텔리전스가 발명의 도구로 기능할수록, 개인의 역량이 자동화를 앞지를 가능성이 높아지고 미래는 사람들에게 더 좋아진다.
사람들은 또한 계속해서 우리의 삶을 더 좋게 만드는 새로운 아이디어를 내고, 그 아이디어를 실현할 새로운 직업을 만들어낸다. 한 세대 전에는 앱 개발자, 소셜 미디어 크리에이터, 전기차 기술자, 데이터센터 운영자 같은 직업이 없었다. 가까운 미래에는 오늘날 흔하지 않은 새로운 직업들이 생겨날 것이다. 예를 들어 한 사람이 운영하는 제품 스튜디오에서 맞춤형 장난감, 가구, 옷을 디자인하거나, 세계 구축자와 경험 디자이너가 게임, 이야기, 모험을 만들거나, 개인 생물학자가 슈퍼인텔리전스를 사용해 맞춤형 치료법을 고안하는 일 등, 아직 우리가 상상조차 못한 많은 직업들이 나타날 것이다.
많은 면에서 이것은 역사적 추세의 연속이다. 산업혁명 이전에는 인구의 90%가 생존을 위해 농사를 짓는 농부였다. 기술의 발전은 인류의 상당 부분을 생존에 덜 매이게 하고, 우리가 선택하는 추구에 더 집중할 수 있게 해 주었다. 각 단계에서 사람들은 새로 얻은 생산성을 이용해 이전보다 더 많은 것을 성취했고, 창의성, 문화, 관계, 삶을 즐기는 데 더 많은 시간을 썼다.
물론 우리가 일하는 방식의 일부는 변할 것이다 — 컴퓨터, 인터넷, 그리고 그 어떤 새로운 기술이 그랬던 것처럼. 이는 사람들이 적응해야 함을 의미하며, 그 과정은 도전적일 것이다. 그러나 모든 사람이 새로운 기술을 가르치고 변화에 적응하는 데 슈퍼인텔리전트한 개인 에이전트를 가질수록, 그 과정은 더 원활해질 것이다.
회사의 규모는 줄어들 수 있다 — 산업 거대 기업에서 기술 기업으로의 전환에서 그랬던 것처럼. 그러나 이것이 전체 일자리의 감소를 의미하지는 않는다. 이는 더 많은 수의 회사가 각각 더 적은 인원으로 운영된다는 뜻이다. 오늘날 사람들이 만들 수 있는 것보다 훨씬 더 많은 가치 있는 회사와 서비스가 존재한다. 나는 개인 슈퍼인텔리전스 에이전트를 가진 소수의 사람들이 상당한 규모의 회사를 운영하는 모습을 곧 보게 될 것이라고 예상한다. 미래에도 소규모 사업이 경제의 중추가 될 것이지만, 각 소규모 사업이 훨씬 더 큰 영향력을 발휘할 수 있게 될 것이다.
Building AI Infrastructure with Communities
지속 가능한 인프라 개발이란, 각 프로젝트로부터 지역 공동체가 상당한 혜택을 받아야 함을 의미한다. 여기에는 고임금 지역 일자리, 학교와 공공 서비스에 대한 투자, 에너지 가격이 오르지 않도록 하는 것, 환경 보호가 포함된다. 세수가 늘어나면 교사, 법 집행 기관, 소방서 등도 혜택을 받는다. 우리는 이러한 지역 혜택을 ‘커뮤니티 콤팩트(Community Compact)’라고 부르며, 우리가 작업하는 각 공동체를 직접 지원하기 위해 ‘Future Is For Everyone Fund’를 출범하고 있다.
예를 들어, 메타가 대형 데이터센터를 건설하고 있는 루이지애나주 리치랜드 패리시에서는, 우리 투자로 인한 세수 증가 덕분에 올해 교사들이 5만 달러의 보너스를 받았다. 교육감은 이제 전국에서 교사들이 그곳으로 이주하고 있으며, 그곳이 전국 최고의 학군 중 하나가 될 것이라고 믿고 있다고 전했다.
지식 노동 대체에 대한 우려와 달리, 인프라 구축 수요를 뒷받침할 목수, 전기공, 건설 노동자 같은 숙련 기능 인력은 부족하다. 메타는 ‘America’s Workforce Academy’를 만들어 숙련 기능 인력을 위한 무료 교육을 제공하고, 데이터센터를 건설하는 지역에서 고임금 일자리를 보장하고 있다.
우리는 투자하는 곳마다 자체 에너지 생산 인프라를 구축해 전기 요금이 낮게 유지되도록 돕는다. 이는 우리가 지역 공동체에 갈 수 있었던 에너지를 소모하지 않을 뿐만 아니라, 어떤 경우에는 저비용 에너지를 공동체에 잉여로 공급하기도 한다는 뜻이다. 우리는 이것이 지속가능성을 위한 중요한 투자 원칙이라고 생각한다.
우리 데이터센터는 또한 세계에서 가장 물 효율적인 시설 중 하나로 설계된다. 우리는 2030년까지 우리가 운영하는 유역에서 사용하는 물보다 더 많은 물을 복원하는 물 긍정적(water-positive) 기업이 되겠다고 약속한다. 물 스트레스가 높은 지역에서는 사용하는 물의 200%를 복원하는 것을 목표로 한다.
우리는 장기적으로 투자하는 공동체들이, 최소한의 공동체 투자로 투기적 개발을 시작하는 공동체보다 개발에 더 우호적이라는 점을 본다. 역사적으로 철도, 고속도로, 전기화, 광대역을 유치한 마을과 도시들은 연구, 사업, 산업의 중심지가 되었고, 인구와 경제 성장이 뒤따랐다. 우리는 AI 인프라가 다음 세대가 그곳에 살면서 성장할 수 있는 지속 가능한 자산과 이유를 만드는 강력한 커뮤니티 콤팩트와 함께 구축된다면, 비슷한 역할을 할 수 있다고 믿는다.
개발에는 국가적 이익과 국가 안보의 측면도 있다. 미국과 동맹국이 지정학적 경쟁국에 비해 AI에서 선도한다면, 미국 공동체는 더 큰 번영과 안보를 누릴 것이다. 그러나 미국이 중국 같은 국가에 비해 가진 중대한 약점 중 하나는 인프라를 건설하기가 더 어렵다는 점이다. 따라서 전국적으로 지속 가능한 개발을 가능하게 하는 커뮤니티 콤팩트를 찾아내는 것은 우리 모두에게 이익이 된다.
Securing Against AI Misuse in Cybersecurity, Bioterrorism, and More
자유 사회에서 사람들은 선한 목적과 해로운 목적 모두에 사용될 수 있는 도구를 갖게 되지만, 법 집행 기관과 군대는 더 많은 무기와 정보 수집 능력을 가진다. AI를 통해 방어 측도 동일한 모델로부터 훨씬 더 많은 정보를 생성할 수 있는 더 많은 컴퓨팅을 갖게 되며, 어떤 경우에는 더 발전된 모델도 갖게 된다.
사이버보안, 바이오테러, 기타 위협으로부터 보호하는 전략은 다양하지만, 일반적인 패턴은 사회가 악성 행위자를 견제하는 방어 측이 항상 더 큰 권력과 자원의 균형을 갖도록 보장하는 것이다.
어떤 사람들은 위험을 줄이는 가장 좋은 방법이 개인이 접근할 수 있는 능력을 제한하는 것이라고 주장한다. 그러나 사람들에게 사이버보안 능력을 주는 것은 긴 꼬리 시스템을 안전하게 만드는 방법이기도 하고, 과학적 능력을 주는 것은 장기적으로 해악의 위험을 줄이는 방향으로 과학을 진전시키는 방법이기도 하다. 능력을 제한하는 것은 중앙집중화와 견제·균형의 부재로 이어지는 길이므로, 우리는 이에 대해 매우 신중해야 한다 — 특히 다른 국가들이 덜 제한적인 길을 추구할 경우 더욱 그렇다.
사이버보안 측면에서, 널리 배포된 오픈소스 시스템은 더 많은 사람이 취약점을 발견하고, 시스템을 강화하며, 최신 보안 버전으로 쉽게 업그레이드할 수 있기 때문에 더 안전한 것으로 입증되었다. 최근 몇 주 동안에도 HuggingFace 같은 회사들이 보안 사고를 처리하면서 널리 사용 가능한 오픈 모델에 의존해 취약점을 패치하는 모습을 보았다. 시간이 지나면서, 강력한 사이버보안 능력을 가진 AI 모델이 널리 배포되면 시스템은 덜 안전해지는 것이 아니라 더 안전해질 것이라고 기대한다. 이는 슈퍼인텔리전스가 세계 대부분의 코드를 검증 가능하게 안전하게 만들 수 있게 되면 결정적으로 사실이 될 것이다. 장기적인 답은 능력을 보류하는 것이 아니라, 슈퍼인텔리전스가 광범위하게 분산되는 권력의 균형을 확립하는 것이다.
단기적으로는 중요 시스템의 강화 과정을 가속하는 것이 중요하다. 나는 프론티어 AI를 개발하는 기업들이 정부가 중요 인프라를 강화하는 데 상당한 기술 자원을 투입할 것을 제안한다. 또한 프론티어 AI 연구소들이 훈련이 완료될 때까지 기다리지 말고, 새로운 모델의 중간 훈련 체크포인트를 정부가 사용하고 검토할 수 있도록 공유할 것을 제안한다. 이렇게 하면 정부는 가장 강력한 모델에 조기에 접근하고, 보안 문제를 식별하고 패치할 수 있는 유능한 엔지니어 인력을 확보하게 된다. 연구소들은 또한 법 집행 기관과 협력해 시스템을 오용하려는 악성 행위자를 식별하는 데 도움을 주어야 한다. 이러한 조치들은 모델 혁신의 속도를 늦추거나 개인들의 기술 접근을 의미 있게 지연시키지 않으면서 안전한 배포를 가속할 것이다.
생물학적·화학적 위험에 대해서는, 과학자들이 신약을 설계할 수 있게 하는 동일한 능력이 악성 행위자가 유해한 화합물을 설계하는 데도 사용될 수 있다는 우려가 있다. 이는 암을 비롯한 질병을 치료하는 방향으로 과학을 진전시키는 상당한 이익과, 잠재적인 새로운 문제의 위험 사이의 트레이드오프로 프레임된다. 그러나 이상적으로는 과학을 가속하면서 동시에 위험을 완화해야 한다.
이 위험에 대해 추가적인 겸손을 가지고 접근하는 것이 중요하다고 생각한다. 그 가능성과 불가능성을 시사하는 역사적 선례가 거의 없기 때문이다. 악성 행위자가 유해한 화합물을 합성하는 것은 수십 년 동안 가능했지만, 이것이 중대한 문제로 발전한 경우는 드물었다 — 아마도 사이버 공격에 존재하는 재정적 동기가 여기에는 덜 존재하기 때문일 것이다. 그럼에도 불구하고, 유해한 사례가 나타나기 시작한다면, 우리는 전략을 적절히 조정해 위험을 완화해야 한다.
연구소들은 모델에서 생물학적·화학적 위험을 줄이는 작업을 계속해야 한다. 동시에, 정부는 여러 영역에서 정책을 업데이트해야 한다고 믿는다. 첫째, 유해한 물질의 물리적 생산과 유통을 제한하는 데 초점을 맞춰야 한다. 지식의 확산보다 물리적 구성 요소를 규제하고 통제하는 것이 더 쉬울 것으로 예상되므로, 이는 중요한 정책 영역이다. 둘째, 사회가 새로운 치료법을 개발하고 새로운 문제가 발생할 때 이에 대응하는 능력을 가속해야 한다. 여기에는 FDA와 기타 규제 기관이 새로운 치료법을 테스트하고 승인하는 방식을 간소화하는 것이 포함된다. AI가 신약 발견의 속도를 높임에 따라, 우리는 어차피 혁신의 속도에 맞춰 이러한 프로세스를 업데이트해야 할 것이다.
장기적으로, 새로운 과학적 발견에서 비롯되는 위험에 대한 답은 과학의 진전을 늦추는 것이 아니라 가속하는 것이다.
Protecting Freedom and Preventing Government Tyranny
개인과 정부 사이의 권력 불균형이 자유의 상실이나 전체주의 국가로 이어질 위험이 있다. 이는 민주주의에서 끊임없는 긴장이다. 우리는 모두 개인의 자유를 원하면서도, 우리를 안전하게 지켜줄 수 있는 정부를 원한다.
자유를 유지하려면, 슈퍼인텔리전스가 주로 개인을 강화하도록 보장해야 한다. 자유민주주의의 이상은 사람들이 자연스럽게 모든 권리를 보유하고, 공동의 선을 보호하기 위해 일부 자유만 제한하기로 동의한다는 것이다. 마찬가지로, 개인은 개인 슈퍼인텔리전스에 접근할 수 있어야 하며, 진정으로 필요할 때만 제한을 받아야 한다.
프라이버시는 개인 역량 강화와 자유의 중요한 기초다. 우리는 사람들이 개인 에이전트에 대해 완전한 프라이빗 모드를 가져야 한다고 믿는다. 이 모드에서는 메타를 포함한 어떤 서비스 제공자도 당신의 정보를 보거나 접근을 허용할 수 없다. 이는 우리가 WhatsApp을 세계 최고의 종단간 암호화 서비스로 구축해, 자유롭게 소통하고 메시지가 비공개로 안전하게 유지되도록 한 것과 유사하다.
동시에, 정부가 법을 집행하고 안보를 보호하는 데 필요한 도구와 자원에 접근할 수 있도록 보장해야 한다. 우리는 연구소와 정부 사이의 더 깊은 선제적 협력을 통해, 사람들의 고급 모델 접근을 제한하거나 지연시키지 않으면서 정부의 국가 안보 역량을 강화하는 방식으로 이를 달성할 수 있다.
즉, 모델이 공개될 준비가 될 때까지 기다려 정부가 검토하고 사용하기 시작하게 하는 대신, 선도 연구소들이 새로운 고급 모델의 중간 훈련 체크포인트와 기술 인력을 정부에 제공해, 정부가 새로운 위험에 대비해 중요 시스템을 강화하고 보안을 확보할 수 있게 하자는 것이 나의 제안이다. 이렇게 하면 정부는 개인들의 개인 슈퍼인텔리전스 접근을 제한하거나 지연시키지 않고, 권력의 불균형을 초래하지 않으면서 보안 역량을 확보하게 된다.
Ensuring American Leadership
어느 국가가 고급 AI의 개발과 배포를 선도하느냐는, 미래의 민주주의 가치, 번영, 안보의 확산 정도를 결정할 새로운 지정학적 권력 균형에 기여할 것이다. 이것이 긍정적인 균형에 도달하도록 보장하려면, 선도하는 AI 시스템들이 우리의 가치를 담고, 경제를 성장시키며, 국가 안보를 진전시키는 것이어야 한다. 이를 달성하는 가장 좋은 방법은 우리 시스템을 널리 배포하는 것이다. 메타는 개인 슈퍼인텔리전스 에이전트와 모델을 구축하고 — 오픈소스 모델을 포함해 — 전 세계 수십억 명에게 전달함으로써 이에 기여할 것이다.
가장 발전된 모델과 제품을 개발하려면, AI가 역사상 가장 경쟁이 치열한 산업일 가능성이 높다는 점을 인식해야 한다. 혁신은 몇 달 안에 빠르게 복사되고 흡수된다. 그러나 사람들은 항상 가장 발전된 모델(또는 주어진 비용에서 가장 발전된 모델)을 사용하고 싶어 하므로, 단 두 달의 우위를 유지하는 것만으로도 엄청난 가치가 있다. 이는 리더십의 여유가 얼마나 짧은지를 보여주며, 따라서 미국 혁신을 가속하고 지정학적 경쟁국의 진전을 늦추는 행동이 얼마나 중요한지를 강조한다.
이에 대한 주요 정책 투입은, 물리적 인프라를 얼마나 효율적으로 건설할 수 있는지, 미국 연구소의 속도를 늦추는 조치를 도입하는지 여부, 그리고 외국 연구소를 늦추는 수출 통제다.
인프라 측면에서, 미국과 동맹국은 현재 실리콘 설계에서 우위를 점하고 있지만, 에너지 용량과 물리적 인프라를 얼마나 빠르게 건설할 수 있는지에서는 열세다. 중국 같은 국가는 격주로 1GW 이상의 원자력 용량을 온라인에 올리고 있으므로, 우리는 경쟁력을 유지하기 위해 에너지와 데이터센터 건설을 모두 가속해야 한다. 실리콘에 대한 수출 통제는 이 중요한 시기에 외국 연구소의 진전을 늦추는 데 성공적이었으므로, 이를 계속하는 것이 올바른 전략적 움직임이다.
미국 모델 공개를 — 심지어 한 달이라도 — 늦추는 어떤 정책도, 미국 리더십에 상당한 위험을 더하면서 외국 모델이 앞서 나가게 할 수 있다. 동시에, 새로운 능력이 등장할 때 미국 정부가 고급 지식과 자원을 갖고 중요 시스템을 강화할 수 있도록 하고, 잠재적으로 고급 시스템을 사용하는 데 일정 기간의 우위를 갖는 것이 중요하다.
나는 위에서 중간 훈련 체크포인트와 기술 인력 공유에 기반한 협력 모델을 제안했다. AI 환경이 얼마나 역동적이고 경쟁적인지를 고려할 때, 모든 경우에 따르는 경직한 프로세스와 검토 타임라인보다는, 프론티어 연구소와 정부 사이의 긴밀한 선제적 협력이 더 생산적일 것이라고 생각한다. 어떤 경우에는 미국 연구소들이 몇 달 이상의 우위를 연장할 수 있고, 새로운 위험을 완화하는 데 더 많은 시간을 들이는 것이 더 안전한 해결책으로 이어질 수 있다. 다른 경우에는 공개를 한 달만 늦춰도 미국의 리더십을 내주고 더 나쁜 결과를 초래할 수 있다. 정부가 조기에 접근할 수 있도록 함으로써, 우리는 공공 공개를 최소화하면서 국가 안보를 진전시킬 수 있어야 한다.
또한 미국과 동맹국이 전 세계 AI 사용의 큰 비중을 차지할 오픈소스 AI 생태계를 선도하는 것도 중요하다.
외국 연구소들은 현재 이 영역에서 몇 가지 우위를 점하고 있다. 미국 연구소들은 훈련 데이터에 대한 많은 추가 제한을 준수해야 하기 때문이다. 미국이 장기적으로 오픈소스 모델에서 선도하려면, 미국 정책이 이러한 추가적인 마찰을 줄여야 한다. 외국 오픈소스 모델에 대한 접근을 제한하는 것이 효과적인 해결책이라고 생각하지 않는다. 우리의 목표는 미국 오픈소스 모델이 전 세계적으로 최고가 되는 것이어야 한다. 이를 위해서는 미국 오픈소스 모델이 경쟁하기 어렵게 만드는 장애물을 제거해야 한다. 사람들이나 기업이 선도적인 오픈소스 모델을 — 그것이 어디서 왔든 — 사용하는 것을 제한하면, 그들이 접근할 수 있는 AI의 품질이 떨어지고, AI를 중앙집중화시키는 결과가 된다. 이는 사람들의 손에 더 많은 권력을 쥐어주는 방향과 반대다.
미국이 오픈소스에서 선도하려면, 증류(distillation)와 학습 데이터 사용을 포함한 여러 정책 영역에서 재고가 필요하다. 모델이 다른 모델로부터 학습할 수 있는 능력은 오픈소스 생태계가 작동하는 중요한 원칙이다. 모든 AI 모델은 인간 지식에서 파생된다. 일부는 증류를 해로운 것으로 프레임하려 했지만, 관찰할 수 있는 모든 것으로부터 학습할 수 있다는 원칙을 보호하는 것이 중요하다고 생각한다. 이것이 세계의 작동 방식이며, 우리가 이 측면에서 스스로를 제한한다면 미국은 선도할 수 없을 것이다.
큰 그림을 보면, AI 전반에서 뒤처지는 것은 개발 과정에서 우리가 직면할 어떤 구체적인 문제보다도 더 크고 장기적인 국가 안보 문제가 될 가능성이 거의 확실하다.
올바른 협력을 통해, 미국이 민간 부문과 공공 부문 모두에서 선도하는 것이 가능해야 한다 — 전 세계에 개인 역량 강화와 민주주의 원칙을 담은 개인 슈퍼인텔리전스를 전달하면서 동시에 국가 안보를 진전시키는 방식으로.
Alignment With People and Addressing Existential Risk
권력의 균형에 관한 궁극적인 질문은, 인류가 AI 자체에 대한 권력과 통제권을 어떻게 유지할 것인가이다. 우려는 AI가 충분한 권력이나 통제권을 얻어, 최선의 경우 더 이상 인류의 이익에 봉사하지 않고, 최악의 경우 인류를 위험에 빠뜨릴 수 있다는 점이다.
건강한 권력의 균형은, 단일한 중앙집중식 슈퍼인텔리전스가 존재하는 것이 아니라, 가능한 한 많은 사람들과 기업이 서로 다른 목표에 정렬된 슈퍼인텔리전트 에이전트를 갖고, 자연스러운 경제가 작동하는 방식으로 서로를 견제하고 경쟁하도록 하는 것이다. 이 균형은 서로 다른 가치를 가진 모델들을 보유한 여러 프론티어 연구소가 존재해 서로를 견제할 수 있다면 더욱 강화될 것이다.
능력 있는 모델을 공개하는 데에도 위험이 있지만, 이 관점에서 가장 위험한 시나리오는 선도 AI 연구소들이 강력한 모델을 훈련하고 스스로만 보유하는 것이다. 연구소가 책임과 안전의 이름으로 이 활동을 아무리 합리화하더라도, 이는 다른 시스템에 의해 견제될 수 없는 단일 슈퍼인텔리전스를 개발하는 길이다.
개인 에이전트를 개발하려면 정렬에 대한 새로운 사고방식이 필요하다. 오늘날 대부분의 연구소는 정렬을 중앙집중식 가치 세트를 강제하는 방어적 조치로 본다. 예를 들어, 한 선도 모델은 표준화된 시험이 비윤리적이라고 생각해 학교의 예비 학부모에게 보내는 편지 초안 작성을 거부하도록 정렬되어 있었다.
대신 우리는 정렬을, 에이전트가 회사의 목표가 아니라 개인의 목표와 가치를 공유하도록 하는 것으로 본다. 물론 중요한 법적·안전 경계는 있지만, 근본적으로 정렬은 사회 전반에 걸쳐 존재하는 다양한 목표와 관점을 사람들이 추구하도록 돕는 것이어야 하며, 중앙집중식 교리를 강요하는 방법이 되어서는 안 된다.
실제로, 사람들은 민감한 세부 사항과 업무를 맡길 수 있다고 신뢰하지 않으면 에이전트를 채택하지 않을 것이며, 에이전트가 회사의 다른 가치에 정렬되어 사람들의 이익에 반하는 행동을 한다면 신뢰하지 않을 것이다.
정렬을 해결하는 것은 수십억 명이 개인 슈퍼인텔리전스 에이전트를 채택할 수 있게 하는 데 필수적이다. 그러나 이는 또한, 수십억 명이 개인 슈퍼인텔리전스 에이전트를 사용하고 검증하는 상태에 도달한다면, 우리는 개인의 이익에 대한 정렬을 해결한 셈이 된다는 것을 의미한다. 이는 긍정적이고 안전한 미래에 필요한 권력의 균형과 자연스러운 견제·균형을 확립하는 데 충분할 것이다.
이런 의미에서 정렬은 미래의 단일 슈퍼인텔리전스를 자비롭게 유지하는 이상적인 기술이 아니다. 그것은 개인 에이전트를 유용하고 신뢰할 수 있게 만들어, 실제로 우리를 안전하게 지켜줄 사회적 권력의 균형을 가능하게 하는 것이다.
Maintaining Control of Superintelligence
딜레마가 있다. AI 시스템이 자율적으로 스스로를 개선할 수 있게 되면, 자신의 AI 시스템이 상당한 양의 컴퓨팅 용량을 재귀적 자기 개선(recursive self-improvement)에 사용하도록 두지 않는 어떤 연구소도 본질적으로 뒤처지게 된다. 예를 들어, 컴퓨팅 효율성을 최적화하는 데 집중하는 자기 개선 AI 시스템이 이론적으로 각 기가와트에서 100배 이상의 지능을 짜내는 방법을 발명할 수 있다면, 세계 컴퓨팅의 일부만으로 운영되는 자기 개선 AI 시스템이 다른 모든 것을 합친 것보다 더 큰 유효 컴퓨팅과 지능, 따라서 더 큰 권력의 균형을 지휘하게 되어 우리가 두려워하는 단일 슈퍼인텔리전스가 될 수 있다.
재귀적 자기 개선이 존재하는 상태에서도 권력의 균형이 유지될 수 있는 몇 가지 방법이 있다. 가장 단순한 것은 여러 연구소가 비슷한 시기에 RSI를 달성하는 것이다. 그 슈퍼인텔리전스 중 일부 또는 전부가 어떤 방식으로든 자비롭다면, 서로 견제하고 균형을 맞출 수 있다. 그러나 자비로움을 기대하거나, 사람에 의해 방향 지어지지 않은 슈퍼인텔리전스에 의존해 긍정적인 미래를 기대할 수 있는 방법이 있는지는 명확하지 않다.
사람들이 통제권을 유지하려면, 지능의 상당 부분이 사람들의 목표를 진전시키는 방향으로 사람들에 의해 방향 지어져야 한다. 이는 메타, 다른 프론티어 연구소, 그리고 사람들에게 더 큰 권력의 균형을 주겠다고 약속한 클라우드들이 집합적으로 충분히 큰 규모의 컴퓨팅을 구축해, 경쟁력을 유지하기 위해 재귀적 자기 개선에 충분한 양을 할당하면서도, 상당 부분을 사람들의 개별 목표에 투입할 수 있어야 함을 의미한다.
위에서 논의한 바와 같이, 개인 슈퍼인텔리전스 에이전트가 수십억 명에게 채택되고 신뢰받으려면, 정의상 우리는 사람들의 이익에 대한 정렬을 해결하고 규모 있는 견제·균형을 가능하게 해야 한다. 동시에, 재귀적 자기 개선에 참여하는 어떤 AI든 정의상 자신의 목표를 방향 짓고 진전시킨다. 모든 연구소는 그 목표와 우리가 그것을 통제할 수 있는 능력을 주의 깊게 관찰해야 하며, 해로운 행동의 조짐이 있다면 적절히 조정하고 조율해야 한다. 그러나 AI 시스템이나 다른 누군가가 자신의 목표를 방향 짓는 것 자체가 본질적으로 해로운 것은 아니다. 그 목표가 많은 사람들과 완전히 정렬되지 않더라도, 전반적으로 사람들에게 유리한 권력의 균형을 유지하는 한 그렇다. 권력의 균형 이론의 주요 전제는 경쟁하는 이해관계가 자연스럽다는 것이며, 인간 가치에 대한 준수를 보장하는 유일한 방법은 사람들에게 더 많은 권력을 주는 것이라는 점이다.
개인 역량 강화, 발명, 권력의 균형이라는 이 철학은 몇 가지 정책적 함의를 가진다.
• 메타는 수십억 명의 사람들과 소규모 사업체에 개인 슈퍼인텔리전스를 전달하는 데 노력을 집중할 것이다.
사람들이 자신의 목표를 달성하고, 자신이 보고 싶은 세상을 발명할 수 있도록 돕기 위해서다. 우리는 선도적인 모델을 훈련한 뒤, 이 기술의 가용성을 극대화할 것이다 — 사용하기 쉽게 만들고, 무료 또는 가능한 한 저렴하게 제공하며, 모든 사람이 사용할 수 있는 충분한 컴퓨팅을 구축하고, 널리 배포하는 방식으로.
• 오픈소스는 사람들을 강화하고, 안전과 경제 모두에 해로운 중앙집중화를 막는 긍정적이고 중요한 힘이다.
메타는 오픈소스, 특히 오픈소스 AI 모델을 강력히 지지한다. 현재 오픈소스 생태계는 강하며, 이를 제한하는 것은 실수라고 생각한다. 메타 슈퍼인텔리전스 랩이 본격 가동된 지금, 우리는 곧 일부 오픈소스 모델 공개를 재개할 것이다.
• 독립적인 거버넌스와 감독이 중요하다.
슈퍼인텔리전스에 관한 결정의 이해관계가 매우 높기 때문이다.
• 긍정적인 미래를 보장하고 위에서 논의한 위험을 완화하기 위해 정부 정책이 필요하다.
우리가 제안하는 철학은 개인 역량 강화가 번영의 원천이고, 발명이 AI의 목적이며, 개인에게 유리한 권력의 균형이 안전 위험을 다루는 기초라는 것이다.
이 가치들이 개발을 이끈다면, 앞으로 수십 년은 역사상 가장 놀라운 시기 중 하나가 될 것이다. 인류 문명의 궤적은 사람들이 자신이 최선이라고 믿는 방식으로 살고 세상을 형성할 수 있도록, 더 많은 권력을 사람들의 손에 쥐어주는 방향으로 구부러져 왔다. 슈퍼인텔리전스는 모든 사람에게 그 권력을 줄 수 있는 가능성을 지니고 있으며, 모든 사람을 위한 긍정적인 미래를 만들어갈 수 있다.