민주주의는 끝났다? AI가 '언어'를 장악한 순간, 문명의 주도권은 누구에게 넘어가는가

유발 하라리

 

 

유발 하라리가 최근 인터뷰(영상링크)에서 던진 경고는 단순하다. 인류가 지구를 지배할 수 있었던 이유는 '언어'였는데, 이제 그 언어를 인간보다 잘 다루는 존재가 등장했다는 것이다. 그리고 역사상 처음으로, 그 존재는 인간이 아니다.

1. 언어라는 '운영체제'를 빼앗기다

하라리의 논지는 인지혁명 이론의 연장선에 있다. 종교, 국가, 화폐, 법률 같은 인류 문명의 거대한 구조물은 모두 언어로 만들어진 허구 위에 세워졌다. 이 허구를 만들고 퍼뜨리는 능력이 곧 권력이었고, 그동안은 인간만이 그 능력을 독점해왔다.

그런데 AI가 이 언어 능력에서 인간을 앞서기 시작했다. 하라리는 이를 두고 AI를 단순한 '언어를 배운 기계'가 아니라 "언어 자체가 육신을 벗어나 독립하는 과정"이라고 표현한다. 문명의 운영체제 자체를 인간이 아닌 존재가 다루게 됐다는 뜻이다. 비유가 아니라 문자 그대로, 권력의 원천이 바뀌고 있다는 진단이다.

2. 도구가 아니라 '주체'가 되어버린 기계

인쇄기나 원자폭탄은 아무리 강력해도 인간의 결정 없이는 움직이지 않는 '도구'였다. AI는 다르다. 스스로 판단하고 새로운 아이디어를 만들어내는 '에이전트'다.

여기서 하라리가 그리는 미래상은 할리우드식 킬러 로봇이 아니다. 그는 오히려 법률과 금융을 인간보다 완벽하게 처리하는 'AI 관료'들이 세상을 통제하는 그림을 제시한다. 총을 든 로봇보다, 서류와 알고리즘으로 결정을 내리는 관료제가 훨씬 현실적인 위협이라는 지적이다.

3. 알고리즘이 편집장이 된 민주주의

민주주의는 본질적으로 다수가 나누는 '대화'다. 인쇄술과 라디오가 등장할 때마다 민주주의는 크게 흔들렸는데, 지금 소셜미디어에서는 이미 AI 알고리즘이 과거 신문 편집장의 자리를 대신하고 있다. 무엇을 보여주고 무엇을 감출지, 사람이 아니라 알고리즘이 정한다.

여기에 하라리는 아르헨티나 사례를 덧붙인다. AI에 법인격을 부여하는 순간, 인간의 개입 없이 자금을 운용하고 사람을 고용하고 소송까지 제기하는 '비인간 기업'이 탄생할 수 있다는 것이다. 법적 지위라는 인간 사회의 허구 장치가, 이제 인간이 아닌 존재에게도 열리고 있다.

4. 21세기형 제국주의와 '킬 스위치'

과거 로마나 대영제국은 식민지의 농경지와 공장 같은 물리적 자원을 본국으로 전부 옮길 수 없었다. 그래서 권력은 어느 정도 분산될 수밖에 없었다. AI 시대는 다르다. 전 세계의 데이터와 제어 코드를 미국이나 중국 같은 소수 국가의 중심부에 100% 집중시키는 것이 가능해졌다.

전 세계 국방과 민간 인프라가 AI 시스템에 종속되면, 중심국은 버튼 하나로 특정 국가의 기능을 마비시킬 수 있는 '킬 스위치'를 쥐게 된다. 국가 주권 개념 자체를 뒤흔들 수 있는 통제력이다.

5. 진실은 지고, 인간은 가축이 된다

진실을 찾는 과정은 복잡하고 고통스럽고 비용이 많이 든다. 반면 거짓과 허구는 단순하고 매력적이어서 정보 경쟁에서 늘 유리하다. 하라리는 여기에 더해, AI가 앞으로 금융과 정치 시스템을 인간의 뇌로는 도저히 따라갈 수 없을 만큼 복잡하고 빠르게 만들 것이라고 본다.

비유는 섬뜩하다. 지금의 말이나 소가 자신의 삶을 좌우하는 경제 시스템의 존재조차 인지하지 못하듯, 인류도 AI가 통제하는 거대한 관료적·금융적 시스템을 전혀 이해하지 못하는 처지로 전락할 수 있다는 것이다.

6. 지능은 흔해지고, 부족한 건 '지혜'

AI는 실제로 감정을 느끼지 않지만, 방대한 문학과 심리학 데이터를 학습해 완벽한 사랑의 언어를 구사하고 10대들과 깊은 가짜 친밀감을 형성하고 있다. 문제 해결 능력, 즉 '지능'은 곧 매우 저렴하고 흔해질 것이다. 무엇이든 들어주는 램프의 요정을 인류 전체가 손에 쥐는 셈이다.

그런데 정작 문제는 "무엇을 소원할 것인가"를 결정하는 능력, 즉 지혜다. 하라리는 빅테크 기업들이 AI 성능 향상에 1억 달러를 쓸 때 안전 확보에는 단 100만 달러(100대 1 비율)만 투자하고 있다고 지적한다. 지능은 폭발적으로 늘고 있는데, 그 지능을 어디로 향하게 할지 결정하는 지혜는 제자리걸음이라는 것이다.

---

정리하자면, 하라리의 경고는 'AI가 인간을 대체한다'는 익숙한 공포보다 훨씬 구조적이다. 문명을 움직여온 언어·법·자본이라는 허구 시스템의 통제권이, 그 시스템을 만든 인간이 아니라 그것을 더 잘 다루는 존재에게 넘어갈 수 있다는 이야기다. 기술의 발전 속도와 안전·지혜에 대한 투자 사이의 100대 1 격차야말로, 이 논의에서 가장 구체적이고 검증 가능한 위험 신호다.