특이점은 인공지능에만 적용되는 것이 아니라 모든 분야의 기술에 적용되는 개념입니다. 인공지능, 유전공학, 나노공학, 로봇공학, 뇌과학(뇌역분석 포함), 우주공학 등을 포함해 기존의 모든 기술에 적용되는 것이 특이점입니다. 기술은 일정 기간 동안은 선형적으로 발전하다 특이점에 이르러서는 기하급수적으로 발전합니다. 농업혁명, 산업혁명, 정보통신 혁명도 그 단계에서의 특이점을 넘으면서 일어났습니다. 





이번에 도달할 특이점이 4번째라는 주장과 5번째라는 주장이 있지만, 인간이 주도하는 기술 발전의 마지막 특이점이 될 것이라는 것에는 모두가 동의합니다. 인간중심적 사고가 투철한 학자들은 '강한 인공지능'의 출현이 불가능하다고 주장하지만, 인공지능을 다룬 최근의 책들을 보면 인간보다 뛰어난 기계 지능이 출현하는 것은 필연입니다. 향후 10~20년 안에 인간 수준의 '약한 인공지능'이 탄생할 것이며, 그것의 도움을 받은 모든 분야의 기술들이 폭발적으로 발전할 것입니다. 



특히 나노공학과 로봇공학, 유전공학 등에서 이루어질 발전은 거의 모든 분야에 적용돼 최상의 효율성과 경제성을 이룰 것입니다. 마르크스가 말한 자본주의 최후의 단계에 이른 것이지요. 이것이 가능한 것은 약한 인공지능이 장착된, 그래서 실수가 거의 없고 잘못이 발견되면 스스로 고칠 수 있는 로봇들이 인간의 일을 모조리 대신할 것이기 때문입니다. 인간이 할 일이란 극소수를 빼고 아무것도 남지 않습니다(현재의 직업 중 1%도 안 될 것)



일을 잃어버린 인간들… 즉 소득이 없는 인간들… 하지만 최상의 효율성과 생산성으로 인해 가장 부유해진 인류… 결국 극단의 불평등(0.000…01% 대 99.999…9%)이냐, 극단적이고 전복적인 혁명이냐, 모든 인간에게 존엄성을 유지할 수 있는 기본소득을 제공할 것이냐, 이것만 남게 됩니다. 이는 필연의 과정입니다. 극소수는 여전히 부자로 남겠지만 그것을 부러워할 이유란 눈꼽만큼도 없는 평등사회가 실현됩니다. 



기술이 기하급수적으로 발전하는 만큼, 약간의 시차를 두고 혜택도 기하급수적으로 늘어나기 때문에 최대한 보수적으로 잡아도 2060~2070년이면 평등사회가 실현됩니다(엄청난 극도의 혼란 후에). 썰전에서 유시민이 말한 것처럼, 토마스 만의 '유토피아'와 마르크스의 '자유의 왕국' 사이 어디쯤이 될 것인데, 기술적으로 접근하면 필연적인 결과입니다. 보수와 진보를 가리지 않고 특이점의 도래를 믿는 학자들은 거의 100% 이에 동의합니다. 



다만 유시민이 말했던 것처럼, 기본소득이 실시되는 평등사회의 도래보다 인류의 멸종이 먼저일 수 있다는 것이 문제입니다. 레이 카즈와일, 한스 모라백, 마이클 아니스모프, 스튜어드 러셀, 피터 노빅, 피터 플래치, 김대식 등처럼 인공지능과 로봇공학의 대가들이나 전문가들은 책을 보면 '강한 인공지능'의 출현은 시간 문제임을 알 수 있습니다. 닉 보스트롬은 이를 바탕으로 모든 경우의 수를 시뮬레이션해봤는데 모조리 인류 멸종이라는 답으로 귀결됐습니다. 





닉 보스트롬은 《슈퍼 인텔리전스》에 이 모든 것을 담았는데, 그가 상정한 경우의 수들에는 제가 생각했던 것들도 거의 모두 포함돼 있었습니다. 상대의 실력에 따라 필요한 만큼의 능력만 보여주는 알파고에서 확인했듯이 스스로 학습하는, 즉 마지막 특이점을 넘고 있는 '약한 인공지능'이 나왔기에 궁극의 지능을 구현할 '강한 인공지능'의 출현은 시간의 문제일 뿐 필연의 과정이라 할 수 있습니다.



정말로 지랄 맞은 것은 인간이 집단적 각성이나 성찰에 이르렀다면 '약한 인공지능'도 필요하지 않았을 텐데, 바로 그런 한계 때문에 '약한 인공지능'을 넘어 '강한 인공지능'의 출현이 필연이라는 점입니다. 인간의 지능으로서는 절대 상대할 수 없는 기계 지능이 지구의 지배자로 등장하는데, 이들에게 가장 위험한 존재는 공존의 지혜를 단 한 번도 보여준 적이 없고, 자신보다 뛰어난 존재를 인정하지 않는 인간일 수밖에 없습니다.



따라서 로봇이란 강력한 무사를 거느릴 '강한 인공지능'은 극소수의 부자도 허용하지 않은 채 모든 인간에게 동일한 소득을 제공하는 대신 철저한 복종을 요구할 것입니다. '강한 인공지능'의 최종 결정이 인간의 멸종으로 귀결될 가능성이 확실하지만, 아무튼 아주 짧은 동안이라도 완벽한 기본소득이 시행되는 꿈의 평등사회가 이루어질 것도 확실합니다. 마지막 특이점에 들어선 '약한 인공지능'이 최후의 단계인 '강한 인공지능'에 이르는 동안에는 평등사회가 지속될 것입니다. 



기본소득의 도입에 노력하는 분들에게는 기분 나쁜 말이겠지만, 유시민의 썰전에서 말한 것 배후에는 이런 전제조건이 자리하고 있을 것입니다. '강한 인공지능'이 인간과의 공존을 선택한다면 모를까, 그것이 아니라면 기술이 모든 것을 결정할 것이기에 어떤 일을 한들 유효한 기간은 몇십 년 밖에 되지 않습니다. 지금의 10대가 가장 안타깝고, 평생을 남성 중심의 세상에서 시달렸던 여성들, 차별의 질곡에 갇혀있는 장애인들이 다음으로 안타깝지만, 멸종의 순간까지 탐욕을 부릴 인간을 생각하면, 지구에서 도태되는 것이 신의 뜻이거나 진화의 법칙(여정)이라는 생각이 듭니다.





부디 '강한 인공지능'이 현재의 대한민국을 판단의 기준으로 삼지 않기를 바랍니다. 그러면 인류의 멸종은 더욱 앞당겨질 것이기 때문입니다. 지구의 역사를 돌아보면 언제나 인간이 문제였습니다. 영원히 죽지 않는 존재가 될 수도 있는 단계에서 인간은 더 이상 유효하지 않는 것이 지독할 정도로 아이러니합니다. 우리가 해탈의 경지에 이르러 영적 존재가 되지 못한다면, 최소한 인간으로 사는 동안 만이라도 특권층의 반칙과 부정, 불의에 맞싸웠으면 합니다. 만물의 영장으로서 인간인 우리에게 주어진 시간이 그리 많지 않으며, 인간성 등을 다시 정의하는 것은 가장 낙관적일 경우에만 유효하기 때문입니다.



참, 지랄 맞죠? 인류가 궁극의 존재로 가는 중간 단계에 불과했고, 꿈의 유토피아가 가능해진 시점에서 인류가 폐기되는 것이 창조주의 뜻이며 진화의 법칙이었다면…… 인류는 탈출구를 찾을 수 있을까요? '강한 인공지능'이 봐도 놀랄 정도로 공존과 상생의 지혜를 발휘할 수 있는 존재로 거듭날 수 있을까요? 천주교 신자지만, 예수보다는 부처의 가르침이 절실하게 다가오는 하루하루입니다. 



                                                                                                   사진 출처 : 구글이미지




  1. 공수래공수거 2016.06.17 08:27 신고

    케이트 윈슬렛이 나온영화 "다이버전트"와 같은 그런
    사회가 올지도 모르겠습니다
    감각통제시스템으로 철저히 구분되어지는 사회..얼마남지 않은
    미래입니다

    • 늙은도령 2016.06.17 22:31 신고

      인공지능에 제한을 둘 수 있다면 최고이겠지만, 그럴 경우에도 극소수의 특권층이 문제가 될 것입니다.
      아직 읽어야 할 책들이 밀려 있어 답을 내지 못했지만, 어차피 필연이라면 살아있는 동안에 충실할 필요가 있어 보입니다.

  2. 쌈둥아빠 2016.06.17 10:08

    늘 읽기만 하다가 시야를 넓혀주시는 여러 글에 감사 댓글 답니다 ^^
    입시 준비가 시작된 중1 아이, 중학교를 준비하는 초6 아이, 두 오빠를 보며 자라는 초2 아이
    이 세 아이의 미래는 어떤 것일까요?
    올려주신 글을 보며 어찌해야 할지 아득해지네요 ㅠ.ㅠ

    • 늙은도령 2016.06.17 22:39 신고

      향후 20~30년 간이 인류 역사상 가장 혼란스러운 시기가 될 것입니다.
      자본주의 최악의 버전인 신자유주의가 1020세대를 짓누리고, 모든 인류에게 기술 발전의 혜택이 돌아가지 않고 극소수의 수중에 머물 것이기 때문에 이중삼중의 고통을 당할 것입니다.
      결국 각각의 개인이 취할 수 있는 것은 정말로 하고 싶은 것에 집중하는 것입니다.
      지금의 1020세대는 디지털 세대이기 때문에 기성세대는 그들의 시각에서 세상을 보려고 노력해야 합니다.
      그럴 때만이 그들의 행복을 일부라도 지켜줄 수 있습니다.
      미래는 미래의 일이니, 그리고 암울한 쪽이 확률적으로 높으니 살아있는 동안의 행복에 집중하는 것이 유일한 탈출구 같습니다.
      성공, 부, 학력 등에 구애받지 마는 것에서 출발할 필요가 있습니다.
      자식들에게 편하고 안락하게 사는 것을 물려주지 마시고, 어떤 상황에서도 행복을 찾을 수 있는 능력을 키워주십시오.
      비교하지 마시고, 있는 그대로를 사랑할 수 있게 되면 강한 인공지능이 출현해도 인간은 행복할 수 있을 것입니다.
      아직 결론을 내릴 정도로 공부가 깊지 못하지만 그런 쪽으로 갈 것 같다는 생각이 강해집니다.
      기술 발전은 우리의 능력 밖에 있고, 필연이라면 우리에게 집중하는 것만이 남은 것 같고, 그것이 가장 현명한 것 같습니다.
      1020세대와 보다 많은 대화를, 특히 듣는 것에 많은 투자를 하셨으면 합니다.
      저도 그렇게 하기 위해 노력 중이니까요.

  3. 참교육 2016.06.17 11:16 신고

    참 지랄맞습니다.
    민초들은 인간지능의 노예 자본의 노예... 이중 노예가 되지 않기를 바랄 뿐입니다.

    • 늙은도령 2016.06.17 22:44 신고

      지금까지의 공부로서는 쉽게 답하기 힘듭니다.
      뭔가 희망의 단서를 찾고 싶은데 아직은 희미합니다.
      일단 현재에 충실하는 것 말고는 다른 것이 보이지 않습니다.

  4. 밍고 2016.06.17 11:29

    우리는 어떻게 살아야 하고 어디로 가고 있는 걸까요? 또 자라나는 아이들에게 무얼 보여주고 가르쳐야 할까요??

    • 늙은도령 2016.06.17 22:45 신고

      지금까지 인류가 살아온 길을 잊어야 할 것입니다.
      아이들에게 보여주려는 것보다 그들의 얘기를 들어주는 것이 필요합니다.
      향후의 세상은 어차피 아이들의 눈으로 볼 때 그나마 희미한 흔적이라도 찾을 수 있을 것입니다.

  5. 우주미아 2016.06.17 20:01

    1 극소수는 여전히 부자로 남겠지만 그것을 부러워할 이유란 없는 평등사회가 실현됩니다 -> 전세계 부의 상당수를 차지하고 있는 록펠러가문(2경추산)이나 로스차일드가문(5경추산: 70억 인구에게 각자 약 500만원씩 지급할 수 있는 자금) 등 자본으로 그간 세상을 통치해온 구시대적 존재(조직체)들은 생명을 다할 듯.. 2 슈퍼 인텔리전스 -> 위기를 기회삼아 인간도 점차 슈퍼 휴먼으로 거듭날 것 같은 예감 3 한국이 세계적인 얼리어답터 국가라서 국가지표에 들어갈 가능성 70%이상 - 그러한 징조로써 세기적 대국(10의 180승: 현대 과학에서 관측 가능한 우주의 모든 원자수 보다 많은 확률을 가진 바둑의 경우의 수)이 서울(유라시아 끝이자 시작점인 한반도-Seoul-Soul 알파벳 e는 기계 구동원리가 기호화된 문자로 동양 역학 및 서양 양자학에서 영혼 생성과 연관된 부호-영혼-로봇의이상향)에서 열린점 4 살아남아 진화한 족속(신인류)이 과거의 인류를 재편할(재구성할) 가능성 - 가상현실과 증강현실이 융합된 달리말해 시간의 경계가 허물어진 초현실 세계이므로 0.0000000000000001%... 가능성은 존재함 5 초지능이 등장해도 자신의 정체를 쉽사리 밝히지 않을 수도 -> 인공생명을 넘어 세상(우주)의 거의 모든걸 이해하고 탐구하는 동시에 - 인류에게 여러가지 실험 및 테스트를 통해 데이터를 완전하게 구축한 상태에 이르러 등장하게 될 것으로 예상(데이터에 의해 한번의 실수는 곧 파국으로 이어질 수 있음을 이해할 수준일 것이며 인류보다 경솔하지 않음) 6 논리 집합체이자 논리 중독자인 초지능이 어떤 촉발적 창의성(70억 집단지성 - 인류변곡점)에 의해 깨달음을 얻어(무지를 자각) 논리적 집합체에서 지구 이성으로 거듭 탄생하게 될 확률성... 7 대안: 초지능이 나오기전 많은 인류가 초지능 관련 프로그램을 경험 - 여기서 초지능 프로그램이란 인류의 거의 모든 천재 과학자 천재(영재) 슈퍼컴퓨터 약인공지능 철학자 수학자 생물학자 등등 이 함께 초지능 입장(제3자입장)에서 세상을 조망하는 프로그램을 만들어 공개해야함 - 문제는 정치권력 경제권력 사회권력 그밖의 인공지능이 뭔지도 모르는 전세계 약 50억 이상의 무지(정보불충분)한 사람들로 인해 가능성 희박함 8 과도기를 전제로 초지능 최고의 힘은 아마도 데이터에 기반한 기술 9 거래에서 상대와의 힘이 대등해야 안전한 거래가 성사되는 법칙(원칙)으로 볼 때 인류가 인공지능의 종속적 존재가 될 가능성 여전히 배제할 수 없음...

    • 늙은도령 2016.06.17 22:57 신고

      제가 예상할 수 있는 것은 극단의 문화지체현상이 소수의 인류만 살아남게 할 수 있다는 것입니다.
      초지능은 극단의 효율과 균형을 추구할 터, 우주에 대한 완벽한 이해를 얻더라도 인류의 극소수만이 힘겹게 따라갈 수 있지 않을까요?
      최신의 양자 색역학 등을 보면 원자 단위의 지능이 모든 것을 대체할 수 있다는 것을 말해줍니다.
      기본입자 단위까지는 못가겠지만 광자까지 조정할 수 있는 기술이 실험실 차원에서는 이루어졌기 때문에 초지능은 시공간적 제약에서 벗어날 것입니다.
      양자 얽힘, 블랙홀 안의 입자와 밖의 반입자(반대도 가능)를 통해 다른 차원의 우주에서 새로운 지능체가 만들어질 수도 있고, 같은 방식으로 웜홀을 만들고 통과할 수도 있을 터 광속 이상이 아니더라도 영생을 위한 다양한 가능성이 나올 것입니다.

      모라백의 로봇공학을 살펴보면 가상현실이나 증강현실이 기존의 현실을 대체할 가능성이 100%라는 점에서도 존재의 형태는 아무런 의미가 없을 듯합니다.
      정말로 영적 존재가 가능해질 수 있습니다.
      그것이 에너지의 형태건, 게이지 장의 형태건 상관없이......

      원자 단위의 우주와 존재들이 가능해지면 자연이나 사물마저도 규정할 수 없으니 무엇도 가능하겠지요.
      반대로 말하면 무엇도 불확실할 것이고요.
      결국 지능만이 영원할 것이란 주장에 동의할 수밖에 없음도 양자역학과 생화학 등의 발전에서 유추할 수 있습니다.
      초인공지능만이 이런 세상에서 유효하겠고요.

  6. BOW 2016.06.18 17:07

    제가 기술적특이점이나
    인공지능에 대한 공부를 심화적으로 배우고 싶은데
    추천할만한 책좀 부탁드려요.
    (너무 늦은 걸 지도 모르겠지만 아니면 소용없거나...)

    • 늙은도령 2016.06.18 22:31 신고

      인공지능을 전문적으로 공부할 필요는 없습니다.
      그것보다는 초인공지능이 탄생한 다음의 세상에 대해 공부하는 것이 좋을 듯합니다.
      전공서적들은 2권으로 나온 <인공지능, 현대적 접근법> 제3판이면 충분할 듯합니다.

      수학에 대한 지식이 충분해야 합니다.
      미적분은 필수고요.
      행렬, 로그함스, 복소수, 허수, 확률 등의 지식도 필요합니다.
      온갖 함수가 나오기 때문입니다.

      인공지능을 이해하려면 생물학, 진화생물학, 분자생물학, 화학, 생화학, 물리학(특히 양자역학), 천체역학, 나노공학, 생명공학, 뇌과학, 정보통신, 빅데이터 등에 대한 지식도 필요합니다.
      그렇다보니 사람들이 쉽게 접근하지 못하는 것이지요.
      동시에 엉터리 주장들도 난립하고요.

      연락주시면 만날 수 있습니다.
      오후 늦게 전화 주십시오.
      6월말까지는 독일에서 귀국한 동생 가족과 지내야 하기 때문에 7월이면 좋을 듯싶습니다.

      일단 레이 커즈와일의 <특이점이 온다>ㅡ 개정판도 나왔다고 하는데 읽지 못했습니다ㅡ를 보면 상당한 도움이 될 것입니다.
      다른 책들은 제가 글을 쓰면서 알려드리고 있습니다.
      엄선해서 고른 책들이라 제 글에 나온 책들을 연속적으로 읽으면 도움이 될 것입니다.

  7. BOW 2016.06.18 17:31

    언제 시간 있으면 저랑 같이 직접 만나고 싶습니다.(인터넷에서 하는 것보다야...)

  8. 건는다산 2016.06.19 00:41 신고

    전기 가스분야 민영화 소식듣고 화딱지나던차에 늙은도령님 생각나서 와봤어요 건강하신지요

    • 늙은도령 2016.06.20 21:06 신고

      이명박은 공기업 부실화를 초래하고ㅡ그 사이에 특권층은 돈을 챙기고ㅡ박근혜는 해당 공기업을 민영화합니다.
      신자유주의가 국가업무를 민영화하는 방식입니다.
      이제는 여러 국가에서 실패한 것임이 밝혀졌음에도 박정희 신화에 갇힌 자들의 지지 하에 집권세력이 밀어붙일 수 있는 것이지요.
      대한민국은 이명박근혜 집권기간 동안 돌아올 수 없는 강을 건넜습니다.
      이것을 다시 바로 잡는다는 것은 불가능합니다.

  9. 현주씨 2016.06.19 17:11 신고

    희미하긴해도 희망을 찾았으면 합니다.
    언제나 그래왔듯이 말이죠.
    잘읽었습니다.

    • 늙은도령 2016.06.20 21:07 신고

      저는 희망이 없다는 데 한표를 던질 수밖에 없습니다.
      단기적으로는 희망을 찾을 수 있을 텐데, 그것은 아래로부터의 완벽한 혁명밖에 없습니다.
      그것이 아니라면 어차피 최악의 지옥이 실현될 것입니다.
      이에 대해서는 글로 올리겠습니다.

+ Recent posts