AI사회에 대한 경고…"통제할 수 없는 힘 함부로 불러내선 안돼"

'사피엔스' 유발 하라리 신간 '넥서스'



(서울=연합뉴스) 송광호 기자 = 산업혁명기에 유럽에서 손꼽히는 현인이었던 괴테는 '마법사의 제자'라는 이야기를 발표했다. 그 이야기에 따르면 어느 날 마법사는 제자에게 물을 길어오라고 명령하고 길을 나섰다. 스승이 없자 제자는 요령을 피웠다. 빗자루에 마법을 걸어 자기 대신 물을 길어오게 한 것이다. 그러나 제자는 빗자루를 멈추게 하는 마법까진 배우지 못했다. 빗자루는 끊임없이 물을 날랐고, 겁에 질린 제자는 빗자루를 두 개로 잘랐다. 하지만 두 개의 빗자루가 각각 물을 길어오면서 마을은 삽시간에 물바다가 됐다.



'사피엔스'의 저자 유발 하라리는 신간 '넥서스'(김영사)에서 괴테의 이야기가 주는 교훈은 "통제할 수 없는 힘을 함부로 불러내면 안 된다"는 것이라고 설명한다. 그러면서 강조한다. 당대의 빗자루는 '인공지능'(AI)이라고.

책에 따르면 AI 혁명은 초기 단계임에도 인류에게 엄청난 영향을 끼치고 있다. AI는 지금, 이 순간에도 우리에게 대출해줄지, 우리를 직장에 고용할지, 심지어 교도소에 보낼지를 판단한다.

요컨대 위험성의 핵심은 AI가 인류의 도구가 아니라 '행위자'라는 것이다. 축음기는 음악을 재생했지만, 교향곡을 작곡하진 않았고, 현미경도 세포의 비밀을 보여줬지만, 신약을 합성할 순 없었다. 그러나 AI는 이미 '스스로' 예술을 창조하고 과학적 발견을 할 수 있다. 앞으로 수십 년 내에 AI는 유전 코드를 작성해 새로운 생명 형태를 창조할 가능성이 크다.

저자는 "AI는 스스로 결정을 내리고 스스로 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술임을 명심해야 한다"고 지적한다.



일각에선 하라리의 이 같은 관점이 지나치게 디스토피아적이라고 비판한다. AI가 질병, 빈곤, 환경파괴와 같은 인간의 약점을 극복할 수 있으리라는 것이다. 인쇄 혁명이 과학혁명으로, 신문과 라디오의 발달이 민주주의로, 산업혁명이 삶의 질 개선으로 이어진 것처럼 AI 혁명도 인류의 발전을 견인할 것이라는 전망이다. 하라리는 이런 관점이 "크게 위안이 되진 않는다"고 말한다.

그에 따르면 인쇄 혁명의 결과 인류는 과학만 발견한 건 아니다. 마녀사냥과 종교전쟁도 일으켰다. 신문과 라디오는 민주주의 발달을 견인하기도 했지만, 전체주의의 도구로 전락한 적도 있고, 심지어 민주주의에서도 악용된 사례가 많다. 산업혁명이 일어나는 과정에서 나치즘과 제국주의가 준동하기도 했다.



AI 혁명은 이제 인쇄 혁명, 언론 혁명, 산업 혁명과 같은 인류사의 변곡점의 위치에 있다. 저자는 변화의 시작에 있는 지금이 중요하다면서 '성경'을 예로 든다. 지금 우리가 AI에 권위를 부여하는 일종의 'AI 정경화 과정'에 있다는 판단에서다.

그에 따르면 아타나시우스 주교와 같은 교부들이 '디모테오에게 보낸 첫째 편지'를 성경 데이터세트에 포함시키고 '바울과 테클라의 행전'을 제외하기로 결정한 일은 수천 년 동안 우리가 사는 세계에 영향을 미쳤다. 21세기 수십 억명의 기독교도들이 '바울과 테클라의 행전'의 관용적인 태도 대신 '디모테오에게 보낸 첫째 편지'의 여성 혐오 사상을 바탕으로 세계관을 형성했다는 점에서다.

하라리는 오늘날 아타나시우스 주교에 해당하는 사람들이 AI 초기 코드를 작성하고, '아기 AI'가 학습할 데이터세트를 선택하는 개발자들이라고 단언한다. 그러면서 "AI가 더 큰 힘과 권위를 가지면서 스스로 해석하는 거룩한 책이 되고 있는 지금, 개발자들이 내리는 결정은 수 세기 후까지 파장이 미칠 것"이라고 경고한다.



따라서 인류가 오랫동안 잘 살아가려면 자정 장치가 필요하다고 그는 강조한다. 저자는 "우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다"고 역설한다.

책의 제목인 '넥서스'는 네트워크에서 여러 노드(사람, 장치, 시스템 등)가 연결되는 중심 연결점이란 뜻이다.

김명주 옮김. 684쪽.

buff27@yna.co.kr