본문 바로가기

철학이 있는 공간

인류 종말에 대한 보고서, 그 첫 번째


참으로 오랜만에 글을 씁니다. 여러 가지 이유로 글을 쓸 수 없었고, 쓰지 않았습니다. 무엇보다도 인공지능을 비롯한 4차산업혁명에 대해 공부하고 그것들을 바탕으로 미래를 악착같이 추측하면서 어떤 탈출구도 찾을 수 없었기 때문입니다. 커즈와일의 주장처럼 향후 10년 안에 어마어마한 변화가 일어나지는 않겠지만 20년 뒤에는 어떤 일이 일어날지 아무 것도 예측할 수 없다는 것만 확인할 수 있었습니다. 





솔직히 무엇을 해야 할지 알 수 없었습니다. 지금까지의 글쓰기와 공부가 아무런 의미도 지닐 수 없는 세상이 몇십 년도 남지 않았는데 무엇을 위해 공부하고 성찰해야 하는지 도무지 알 수 없었습니다. 더더욱 환장할 노릇은 4차산업혁명이 불러올 미래에 대한 미래학자들의 예측이 터무니없을 정도로 형편없다는 것이었습니다. 그들은 모두 마르크스적 오류ㅡ인간에 대한 이해가 형편없는 것ㅡ에서 벗어나지 못한 채 4차산업혁명의 기술적 담론에 매몰돼 미래를 그려보려고 했기 때문에 기능주의적 관점에서의 진화의 법칙만 주구장창 되풀이할 뿐이었습니다. 



과학기술의 발전에 따라, 다시 말해 그것의 진화에 따라 인간보다 뛰어난 초인공지능의 필연적 등장과 분자조립자 같은 만능의 창조도구가 등장하는 것을 피할 수 없다는 전제하에 모든 논리를 펼쳐나갔습니다. 4차산업혁명에 대한 그들의 찬양(또는 본질은 외면한 경계)에는 진화의 법칙을 따라 기하급수적으로 발전하는 과학기술의 미래는 있을지언정 인간이란 존재의 본질에 관한 성찰은 어디에서도 찾아볼 수 없었습니다. 



진화의 법칙에 따라, 인간이 지구와 우주를 지배할 최종적 종이 아닐 수도 있다는 주장, 이를테면 모든 면에서 인간보다 뛰어난, 그래서 조물주와 동급의 창조도구(분자조립자, 나노공학의 아버지라 회자되는 드렉슬러의 아이디어로 《창조의 엔진》에 자세히 나와있는데, 간단히 말하면 특정한 성질을 지니는 분자(원소, 탄소 중심의 진화)를 자유자재로 조립해 어떤 물질과 생명체도 만들 수 있다. 커즈와일은 이를 이용해 2040년대에는 허공에서 음식을 만들 수 있다고 주장한다)를 가진 초인공지능(또는 기계지능, 비생물학적 지능)이 진화법칙의 완성물일 수 있다는 주장ㅡ리처드 도킨스가 《눈먼 시계공》에서 주장한 내용ㅡ에 '그렇게 나둘 수 없다'는 인간의 저항은 고려조차 되지 않았습니다. 종으로써의 인간이 우월해야 한다는 것에 냉소하는 자들의 주장만 범람할 뿐이었습니다. 



수억에서 수십억 명의 인간이 일자리를 잃을 것이란 얘기가 너무 쉽게 얘기되고, 0.0…01%에게 부가 독점될 터 나머지 인간에게는 기본소득이 주어질 것이란 희망사항으로 귀결되기 일쑤였습니다. 유토피아적 사회주의의 이상향은 흔적도 찾을 수 없고, 일체의 혁명도 사라진 채 로봇의 생산성과 (초고율의 세금을 거둘 수 있는 정부가 작동하고 있다면 가능해질) 기본소득에 만족하며 살아가야 할 인간만 짧게, 지독하게 짧고 간단하게 언급됐습니다.



레비의 《로봇과의 연예와 섹스》에 이르면 후대의 역사에서 인간이란 종의 희노애락은 사라질지도 모릅니다. 존재하는 모든 섹스판타지를 만족시킬 수 있는 인간 중심적 결론에서 벗어날 수 없다는 점에서 가상의 세상이나 현실의 세계나 별반 다를 것이 없어지기 때문입니다. 자신의 감정이 배척당할 확률이 제로인 '로봇과의 연예와 섹스'는 <차이나는 클라스>에 출연한 정재승이 '내 딸이 유전자를 전달하는 존재가 아니기 때문에 로봇과의 결혼을 승낙할 것'이라는 생각과 완전히 동일합니다.   



전체 인류의 집단지성보다 수천 수억 배는 뛰어날 초인공지능의 자비로움과 존재하는 모든 것을 만들 수 있는 분자조립자의 하해와 같은 성은에 이르면 인간 중심의 역사는 종말을 고합니다. 4차산업혁명은 인간이 해왔고 하기를 바라는 모든 일들을 대신하거나 빼앗아갈 터 기본소득으로 살아가는 것이 최상이 아니면 무엇일 수 있겠습니까? 4차산업혁명이 말하는 단 하나의 목표는 인간이 할 수 있는 일들이란 하나도 남겨두지 않는 것이니 당연한 결론입니다.  



2014년까지 인간의 뇌에서 나온 아이디어들을 기반으로 모든 경우의 수를 따져본 후 인류의 종말을 피할 수 없다고 주장한 《슈퍼인텔리젼스》의 닉 보스트럼마저 '인간은 어떻게든 초인공지능을 관리할 방법을 찾아낼 것'이라는 낙관론에 희망을 두려했지만, 그 자신조차 터무니없는 논리적 모순에 빠졌다는 것을 알 것입니다. 전작 《사피엔스》에서는 대단히 추상적이었던 유발 하라리의 인공지능에 대한 성찰은 《호모데우스ㅡ미래의 역사》에서는 한층 본질에 가까워졌습니다, 신작 《마음의 탄생》을 통해 《특이점이 온다》에서의 낙관적 미래상을 조금이나마 보충했지만 인간에 대한 이해라는 본질에서는 더욱더 멀어진 레이 커즈와일과는 달리.



하하리는 책의 마지막 페이지에서 "1. 과학은 모든 것을 아우르는 하나의 교리로 수렴하고 있고, 이 교의에 따르면 유기체는 알고리즘이며 생명은 데이터 처리 과정이다. 2. 지능이 의식에서 분리되고 있다. 3. 의식은 없지만 지능이 매우 높은 알고리즘들이 우리보다 우리 자신을 더 잘 알게 될 것이다."라며 초인공지능(4차산업혁명의 거의 모든 것)의 미래를 압축해낸 후 다음과 같은 세 가지 질문(현재의 상황에서 할 수 있는 최상의 질문, 또는 반드시 해야 하지만 정직하지는 못한 질문)을 던졌습니다. 





1. 유기체는 단지 알고리즘이며, 생명은 실제로 데이터 처리 과정에 불과할까? 

2. 지능과 의식 중에 무엇이 더 가치 있을까? 

3. 의식은 없지만 지능이 매우 높은 알고리즘이 우리보다 우리 자신을 더 잘 알게 되면 사회, 정치, 일상에 어떤 일이 일어날까?



이런 질문들은 첫 번째로 '과학기술의 발전 덕분에 노동생산성이 최고조에 이르면 자본 축적이 멈춰 프롤레타리아 혁명이 일어날 수밖에 없으며, 능력 만큼 일하고 필요한 만큼 가져가기 때문에 결과의 평등이 이루어지고, 경쟁이 아닌 공생만 존재하기 때문에 개인의 발전이 모두의 발전으로 이어지는 유토피아(자유의 왕국)에 이를 것이라는 마르크스적 오류에서 벗어나는 단초를 제공할 것입니다.     



노동생산성은 4차산업혁명으로 이루어져 인간의 영역을 벗어날 것이고, 프롤레타리아 혁명과 결과의 평등은 기본소득으로 대체되고, 경쟁이 아닌 공생은 '노동 없이 소비하는 삶'으로 바뀌고, 개인의 발전이 모두의 발전으로 이어지는 것은 개개인의 지식과 경험 등이 크라우드에 축적되고 초인공지능에 의해 분류, 가공, 보완, 축약된 후 각자의 뇌와 무선으로 연결되는 방식으로 실현되겠지만, 초인공지능 로봇이 창출하는 최고의 노동생산성만 빼면 마르크스가 예측한 자유의 왕국과는 근본적으로 다른 세상이 펼쳐집니다. 마르크스적 오류는 이렇게 극복될 수 있지만, 그가 발견한 '노동(노동의 가치)'마저 종말을 고합니다. 지금까지의 경험으로만 볼 때 노동에서 해방된 인간이 창의적인 삶을 향유할 것이란 보장은 어디에서도 찾을 수 없고요. 



그리고 유발 하라리도 질문을 던지는 것으로 끝낼 수밖에 없었던 '(비이성적이고 비합리적이고 이기적이고 변덕스럽고 어리석은, 그래서 디지털적이지 않고 아날로그적인 인류가 양심과 상식, 이타심을 가지고 수없이 많은 시행착오를 통해 구축해온 이 빌어먹을) 사회, 정치, 일상에서의 변화'란 누구도 예상할 수 없습니다. 인간보다 뛰어난 지능을 알고리즘이 어떤 결과를 만들어낼지 그것보다 한참은 하등한 인간이 예측할 수 있겠습니까?



데이비드 색스는 '10대들이 LP판을 사고, 턴테이블과 책, 폴로라이드를 구입한다'고 호들갑을 떨며 《아날로그의 반격》을 얘기하고, 세리 터클은 한 발 더 나아가 《테크놀로지가 인간관계를 조정한다ㅡ외로워지는 사람들》를 통해 디지털 세상의 다양한 혼란을 다룬 뒤 "우리는 더 좋은 삶을 누릴 자격이 있다. 테크놀로지의 운영 방식을 정하는 게 바로 우리 자신임을 상기할 때 더 나은 삶을 살게 될 것'이라는 낙관론까지 내놓기는 했습니다(세리 터클의 책은 필자가 강추하는 책이다)



심지어 신자유주의의 전도사였다가 2008년 글로벌금융위기를 경험한 후 자신의 무지함에 대해 고해성사를 한 뒤, 신자유주의와 결별한, 결별한 것으로 보였던 토마스 프리드먼은 《늦어서 고마워》를 통해 '인간과 공동체에 대한 신뢰의 가치'를 역설하며 세리 터클의 낙관론보다 한 발 더 나가기까지 했습니다. 4차산업혁명 시대의 초입에서 이런 낙관론이라도 나올 수 있다는 것은 분명 환영할 만한 일이지만, 《4차산업혁명 시대, 전문직의 미래》를 쓴 서스킨드 부자처럼, 인간이 예측할 수 있는 미래상이란 인간의 한계 내에서만 당위성을 가질 수 있다는 것을 어떻게든 부정하고 싶은 마음이 곳곳에서 묻어났습니다. 단적으로 말하면 인공지능이 주도권을 쥐는 순간, 그것이 원하는 형태의 세상만 존재할 것입니다. 



이어지는 글에서는 유발 하라리가 던진 질문이 인도하는 두 번째 생각을 다루겠지만, 하라리는 초인공지능과 4차산업혁명에 대한 관련 전문가들의 논란들이 근본적으로 지적사기에 해당할 수 있음에 눈을 뜬 것 같습니다. 인간보다 뛰어난 지능을 지닌 알고리즘이 의식을 가지느냐, 갖지 못하느냐는 본질을 호도하는 것이기 때문입니다. 인간이란 존재가 아무런 가치도 가질 수 없는 세상이 도래할 것이 분명함에도 초인공지능이 인간처럼 의식을 가지던 말던 무슨 상관이란 말입니까? 



인간이 자신의 삶과 미래에 관해 아무런 결정도 내릴 수 없는 세상이 4차산업혁명 시대입니다. 인공지능을 연구하는 극소수의 과학자나 전문가들은 '인간이 만든 최후의 발명품'인 비생물학적 지능의 아버지로 초인공지능에 의해 영원히 칭송받겠지만, 동시에 인류를 멸종시킨 인간들로도 기록되거나 (인간이 하등한 존재로든 생존할 수 있다면) 인류를 시궁창에 처박은 악마로 영원히 저주받을 것입니다. '로봇과의 연예와 섹스'도 한두 세대만 누릴 수 있는 경험일 것은 의심의 여지가 없습니다. 성에 관한 모든 판타지를 구현해낼 VR에 주도권을 넘겨준 채 변두리에서 이루어지는 일로 격하될 수도 있습니다. 



저출산이 뭔 문제란 말입니까? 로봇으로 대체하면 노동자와 군인은 무한대로 나올 수 있고, 소비하는 인간이 줄어들더라도 인공지능을 장착한 로봇이 부를 독점하지 않는 한 어떤 형태의 경제라고 한들 끊임없이 돌아갈 것인데. 우주를 개척하면 경제의 규모는 무한대로 늘어난다고 합니다. 원료만 제대로 공급된다면 3D프린터로 생존에 필요한 거의 모든 것을 직접 만들어 쓸 수도 있습니다. 4차산업혁명 전문가들도 어떤 세상이 펼쳐질지 예측할 수 없는데, 그리고 인류가 종말할 가능성이 대단히 높은데 핵무기 확산을 저지하고 핵발전을 폐기하고 지구온난화를 줄이는 노력은 무슨 의미가 있을까요?     



간단히 말하면 이럴수도 있고 저럴수도 있습니다. 리처드 도킨스나 레이 커즈와일, 정재승처럼 진화의 법칙을 신과 동급으로 놓고, 그것의 산물인 초인공지능과 4차산업혁명을 긍정적으로 바라보는 사람들이 늘어날 경우 인류의 종말이나 인간의 노예화는 더욱 가속화될 것이고요. 현재의 인류가 주도권을 가질 수 있는 유일한 방법은 과학기술의 발전을 지금 상태에서 완전히 멈춰버리게 만드는 절대 불가능한 것 이상은 없습니다. 과학기술 발전의 최종 단계가 인류의 노예화나 멸종이라면 말입니다.     


                                                                                                             사진 출처 : 구글이미지