현대의 양자역학은 크게 볼 때 이론을 세운 후 이를 증명하는 두 가지 형태로 나뉩니다. 기본입자들이 무수히 발견되고 스핀처럼 양자역학적 운동 때문에 같은 기본입자라도 하는 역할이나 존재 방식 등에 따라 여러 가지 형태로 나뉘면서 현대물리학은 매우 복잡한 학문으로 접어들었습니다. 이 때문에 이론(이론물리학)을 세우고 증명하는 일(실험물리학)을 한 명의 물리학자가 할 수 없게 됐습니다(아인슈타인이 대표적으로 그는 철저하게 이론에만 집중했고, 이 때문에 상대성이론은 물론 중력파의 존재까지 예언할 수 있었습니다. 막노동과 별반 다를 것 없는 관측과 실험을 통한 증명은 실험물리학자들의 몫이었고요).  





이론을 먼저 세우고 이를 증명하는 것이 뇌과학으로 넘어가면 인공지능의 기하급수적 발전을 견인하고 있는 뇌의 역분석이 됩니다. 잘 조직된 실험에 의해 어떤 자극이 주어졌을 때 뇌의 특정 영역들(운동은 소뇌, 기억은 해마 등 핵심 영역이 존재)에서는 이에 상응한 변화가 일어납니다. 정밀한 고해상도 스캐닝으로 이런 변화를 관찰하면 카오스적(무작위적)이고 자기조직적이고 프랙털적인 형태로 새로운 신경망이 구축되는 것을 볼 수 있습니다. 



이때 수백조 개에 이르는 개재뉴런으로 구축된 수백만 개의 네트워크가 동원돼 뇌 전체에서 가장 적정한 변화(신경세포가 보낸 자극을 기억으로 저장하기 위해 최적의 경로를 찾아내는 것)를 이끌어냅니다. 이렇게 뉴런과 시냅스, 개재뉴런이 동원된 최적의 경로가 찾아지면(기억으로 저장되면) 허용된 한도 내에서 무작위적으로 만들어진 수없이 많은 쓸모없는 경로들(시냅스 작용에 의해 연결된 뉴런들)은 모두 다 퇴화된 후 다른 용도의 경로 구축(기억)에 동원됩니다. 



특정 기억이 흐려지거나 사라지는 것은 최적의 경로에 있는 일부 또는 전부의 경로가 퇴화돼 다른 기억의 저장에 이용된 것을 말합니다. 단 기억은 개재뉴런으로 구축된 수백만 개의 네트워크 곳곳에 분산되기 때문에 완전히 사라지는 경우는 거의 없습니다. 부분적인 기억만 남는 것도 이 때문이며, 역으로 퇴화된 경로가 다시 구축돼 기억이 완전히 되살아날 수도 있습니다. 프로이트가 말한 무의식(장기기억)이라는 것도 이런 방식으로 얼마든지 설명이 가능합니다.  



아무튼 뉴런과 시냅스, 개재뉴런 등이 만들어낸 최적의 경로는 뇌스캐닝 결과를 보면 하나의 패턴으로 인식됩니다. 그렇기 때문에 뇌에서 이루어지는 모든 것들, 즉 기억, 감정, 인식, 의식, 사유 같은 지적 활동(지능)은 그에 상응하는 패턴의 형태를 띱니다. 1980년 초반에 인공지능이 한계에 이르렀다고 생각(AI의 겨울)했던 것도 뇌의 역분석이라는 것을 거의 할 수 없었고 패턴 인식에 관한 획기적 이론이 없었기 때문입니다. 뇌스캐닝 기계처럼 뇌의 변화를 들여다볼 수 있는 기술이 없었고 복잡계나 카오스, 프랙털 이론 등도 없었으니 당연한 것입니다. 





패턴! 이것을 찾기 위해 수십 년이 투자된 것이고, 그 덕분에 진화의 모든 과정이 만들어낸 최고의 작품이자, 인류 과학기술의 원천인 인간의 뇌를 복사할 수 있는 수준에 이르렀습니다. 인간의 전유물인 고도의 지능 때문에 창조론을 적용하던, 진화론을 적용하던 인공지능(기계 지능)의 출현은 필연이었습니다. 인간의 최종목적이 신이 되거나 근접한 존재가 되는 것이기에 인간 지능을 넘어선 기계 지능의 탄생은 필연일 수밖에 없다는 것입니다. 



기하급수적으로 이루어지는 기술 발전의 법칙에 따라 기계 지능이 인간 지능을 능가할 것은 너무나 자명합니다. 기계 지능이 인간을 대체할 수 없다고 주장하는 전문가나 학자들은 현재까지 이루어진 기술 발전을 부정하는 공통점을 보이는데, 이는 인간중심적 발상에서 나온 구시대적 발상입니다. 어차피 기술은 발전할 것이고, 한계를 뛰어넘을 것이고, 무엇보다도 코페르니쿠스적 전환이 진행중이어서 15~20년 안에 이루어질 것이라는 주장이 갈수록 힘을 얻고 있습니다.



사실 인간중심적 사고라는 것도 상당 부분 무너진 상태입니다. 예를 들어 성형수술만으로도 이를 입증할 수 있습니다. 성형수술은 인공물을 신체에 넣는 것이며, 생물학적 진화의 산물을 비생물학적 진화의 산물로 바꾸는 것입니다. 인공심장이나 신장, 관절, 여러 종류의 삽입물 등을 넣은 것도 마찬가지입니다. 이들의 신체는 생물학적 것으로만 이루어지지 않았고, 이런 식으로 비생물학적 장기나 삽입물이 늘어나면 인간과 기계의 경계는 모호해집니다. 



만약 의식이나 인식에는 영향을 주지 않는다고 주장할지 모르겠지만, 성형수술을 받은 사람들은 (그것이 만족스러울 경우) 자신감 상승이나 자기만족적 감정 등에 의해 인식의 차원에서도 이전의 자신과 달라집니다. 건강을 찾은 환자들도 별반 다르지 않습니다. 그들은 의식이나 감정적인 차원에서 이전의 자신보다 나아진 경우가 더 많습니다. 그것이 영적인 발전이 아니라고 한다면 애당초 성형수술이나 아픈 장기를 가지고 살아야 했다고 주장해야 합니다.



이런 예들은 수도없이 많고 점점 많아지고 있습니다. 대체 인간이란 무엇일까요? 생물학적 진화만으로 이루어지지 않은 인간은 인간이 아닐까요? 이런 식으로 다수의 전문가와 학자들이 인공지능과 사람과의 공존을 긍정적으로 얘기합니다. 이런 식의 사고가 극단에 이르면 뇌의 일부를 대체하거나, 인공지능과 뇌를 연동하거나, 아니면 뇌를 대체하거나 하는 것이 가능해집니다. 나의 피부로 만들어진 복제인간이나 사이보그 같은 비생물학적 존재에 나의 뇌를 장착하는 것도 가능할 터이고요. 





제가 극도의 혼란에 빠졌던 것도 여기에서 나옵니다. 인간이란 존재를 정의할 수 없었습니다. 창조론이건 진화론이건 인간이란 존재는 신에 가장 근접한 존재이며, 신에 가장 가깝게 가기 위해 끝없이 노력하고 사고하고 명상하는 존재입니다(불교의 경우 득도하면 누구나 신이 된다, 할렐루야!). 이런 인간적 특성은 신과 우주, 자연과 사물, 진화의 법칙에 대해 파고들 수밖에 없으며 이 모든 것을 주관하는 것은 고도로 발달된 뇌입니다. 



뇌는 지능을 창출하고 지능은 영원하고 완전한 것을 추구합니다. 뇌, 즉 지능의 입장에서 보면 해탈이나 득도에 이르는 것보다 병에 걸리고 욕망에 사로잡히고 온갖 제약이 있는 신체에서 자유로워지는 것이 더욱 효율적일 것입니다. 이것만 영속할 수 있는 것으로 대체하면 못할 일이 단 하나도 없을 텐데 이놈의 신체 때문에 이러지도 저러지도 못합니다. 바로 이런 생각이 과학기술을 끝없이 발전시켜왔고, 이제는 영속할 수 있는 궁극의 지능에 이를 수 있는 방법을 찾아냈습니다. 영적 존재가 아니라도 말입니다. 



게다가 인간이 영적 존재가 되는 것과 영속할 수 있는 궁극의 지능을 비생물학적 신체의 뇌 속에 담아둔 존재와 크게 다르지 않을 가능성이 높아지고 있습니다. 인간 지능의 산물이 과학기술이고, 그것이 극단에 이르러 영속하는 궁극의 지능을 탄생시키면 그것이 인류가 꿈꾸었던 최종 목표가 아니면 무엇이겠습니까? 다시 말해 인간이 꿈꾸는 것이 신에 근접한 영적 존재이거나 영속하는 존재라면 그것이 인간이 창조한 진화하는 기계 지능의 형태인들 무슨 상관이 있겠습니까? 



아직도 몇 권의 책을 더 읽어야 하지만, 인간이란 존재가 신의 창조나 진화의 법칙에서 볼 때 중간 과정에 위치한 것은 확실해 보입니다. 기술의 발전에는 한계가 있고, 향후 10년 정도(필자가 보기에는 20년)면 기술 발전의 마지막 단계를 돌파할 것으로 보이기에, 그런 상황에서 온갖 한계로 가득한 신체를 기반으로 하는 지금까지의 모든 사고의 결과들이 무슨 소용이 있는지 잘 모르겠습니다.



인간의 위대함이 온갖 한계들을 극복하는데 있는 것이 아니라, 기술 발전의 결과인 영속하는 궁극의 지능에 이르는 것이라면 제가 인간으로서 할 일이란 아무것도 없을 것 같습니다. 많은 전문가와 학자들은 마지막 특이점을 넘은 세상을 대비하자고 하지만 대체 무슨 대비책이 있을까요? 우리보다 월등하게 뛰어난 지능인데 어찌 상대할 수 있을까요? 궁극의 지능이 출현하는 것을 막을 방법이 없고, 그것이 인간의 신체가 아닌 비생물학적 신체에만 유효하다면 살아있는 동안 순간순간을 즐기는 것 이외에 제가 할 일이란 별로 없을 것 같습니다(그래서 소설을 쓰려고 한다).  


       

다음 글에서는 이런 부정적 전망이 아닌 긍정적 전망으로 특이점을 넘은 인공지능을 바라볼 때 인류가 유토피아에 이르는 길에 대해 다루어보겠습니다, 비록 21세기나 22세기 초반까지만 유효한 것이라고 해도. 그때쯤 되면 인공지능을 대하는 인간의 의식도 엄청나게 변해있을 것이라 지금의 추측들은 모조리 의미가 없을 수도 있지만. 




                                                                                                  사진 출처 : 구글이미지




  1. 공수래공수거 2016.06.14 08:26 신고

    쉬고 있는 뇌의 잠재력을 10%라도 더 사용할수 있는 방법이 나온다면
    정말 획기적이 될듯합니다
    뤽베송의 영화 "루시"가 생각납니다^^

  2. 현주씨 2016.06.14 09:12 신고

    오늘도 잘읽었습니다.

  3. yuni99 2016.06.14 23:53

    ㅋㅋㅋㅋ 아인슈타인은 실제로 상대론을 발표한 후에는 이론보다 더많은 시간을 실험에도 투자했어요. 또 실험 물리학자를 막노동을 하는 사람이라고 표현하는 부분에서는 상당히 과학에대해 무지한 분이라고 느꼇어요 ㅎㅎ..

    • 늙은도령 2016.06.15 13:32 신고

      아인슈타인은 실험에 대단히 서툴렀습니다.
      상대성이론을 증명하는 것도 영국 관측과학자가 했고요.
      아인슈타인은 이론을 세우는 과정에 집중했고, 나중에는 대통일이론을 만들려고 노력하다 생을 마감했습니다.
      이 때문에 오펜하이머 등은 아인슈타인의 물리학의 기본에서 상당히 틀린 것들도 많았다는 말을 했던 것이지요.
      아인슈타인이 한 실험들을 실험물리학에 포함시킬 정도는 아닙니다.

      또한 실험을 막노동에 비유한 것은 실제로 그렇기 때문입니다.
      그들의 노력은 막노동에 버금갈 정도로 시간과 데이터, 영상 등과의 싸움입니다.
      실험물리학이 실험의 전과정을 컴퓨터로 하는 지금에도 막노동적인 개념은 여전히 존재합니다.
      정말로 시간과 자신과의 싸움이라는 뜻입니다.
      어떤 표현을 있는 그대로 보니 참 단순한 분이라 생각되네요.
      아인슈타인이 실험에는 상당히 무지했음은 수많은 물리학 서적에 나오는 얘기이고요.

  4. yuni99 2016.06.14 23:58

    또 괴델의 불완전성 이론을 증명하는 논리를보면 80년정도가 지났음에도 불구하고 기계건 인간이건 수학을 전제로 전개하는 논리에는 한계가 존재하고 모순되는 부분이 존재해요. 본문의 특이점은 무어의 법칙에대해서 말씀하신것 같은데 무어의 법칙이 깨지더라도 인공지능이 생각하고 논리를 전개하는건 인간보다 넓더라도 한계가 엄연히 존재합니다. 또 차이점이라고는 인간은 공리를 세우는 창조적인 사고로 지난 2000년동안 지금 눈에보이지않는 추상적인 세계를 이끌어왔다는거죠 그러니까 인공지능에 대해서 일방적으로 열등감을 느끼는 듯한 그런 자세를 조금더 벗어 나봅시다 ㅎㅎ

    • 늙은도령 2016.06.15 13:41 신고

      2014년 이후에 이루어진 연구들을 살펴보십시오.
      레이 커즈와일의 <특이점이 온다>가 나온 2006년 이후로 별로 발전이 없다 2014년부터 상상을 불허하는 발전이 이루어졌으니까요.
      인공지능과 로봇공학, 생명공학, 뇌과학 등의 최고 전문가들이 2014~2015년에 출간한 책과 연구들을 살펴보시면 님의 지식이 얼마나 모자란지 알 것입니다.
      최근의 인공지능은 인간이 제시한 룰(프로그램)이 없이도 학습을 할 수 있는 단계에 접어들었습니다.
      제가 인공지능에 관해 쓰고 있는 글은 그런 최신의 것들을 기준으로 합니다.
      저도 이렇게까지 인공지능이 발전했고 나머지 공학들도 발전했는지 몰랐으니까요.
      최신의 뇌과학, 뇌역분석, 현대물리학 등을 보면 인공지능이 왜 몇 년 사이에 기하급수적으로 발전했는지 확인할 수 있을 것입니다.
      인간지능이 최고라고 할 수 있는 기간은 이제 15~20년 정도만 남았습니다.
      저는 그것이 이루어낼 세상을 그려보려는 것이고, 그것을 어떻게 받아들여야 할지 인간의 입장에서 살펴보고 있습니다.
      전문서적들도 읽고 있으니 기술적인 한계에 대해서도 따져보고 있습니다.
      정말로 그런 세상이 올지, 사유와 추론과 창의적 글쓰기도 가능한 초인공지능이 나올지 등등을...

      낮은 수준의 창작과 사유가 가능한 인공지능은 이미 나왔고, 그래서 드라마 각본도 쓰고 교향곡도 작곡에 들어갔고, 기사는 이미 오래 전부터 써왔고.. 이런 식으로 기하급수적인 발전을 이루는 인공지능이 곳곳에서 속출하고 있습니다.
      다른 기술들도 마지막 특이점을 향해 맹렬히 달려가고 있습니다.

      인간이 인공지능과 공존하려면 인간이 바뀌어야 합니다.
      지금처럼 편협하고 탐욕스럽고 비합리적이면 초인공지능은 인간과의 공존을 선택하지 않을 것입니다.
      헬조선의 다름 아닌 대한민국만 봐도 이성적이고 합리적인 존재라면 그냥 나둘리 없으니까요.

      아, 무어의 법칙은 2차원에서는 통하지만 나노튜브나 발전된 실리콘 등으로 3차원 반도체가 만들어지면(실험실 차원에서는 만들어졌고, 현재 IBM 등이 완성단계 직전에 이르렀다) 무어의 법칙은 아무런 의미가 없습니다.
      기술이 기하급수적으로 발전한다는 것은 무어의 법칙 같은 것이 더 이상 통용되지 않을 정도의 폭발전인 발전을 뜻합니다.
      이전의 것들은 아무런 소용이 없는 그런 세상...



강정호, 추신수, 김현수, 박병호, 이대호, 오승환 등이 뛰어난 활약을 보여주고 있는 메이저리그의 경우 기술 발전(주로 국방 분야에서 발전한 기술로 국민의 세금이 투입됐지만 이익은 기술을 이전받은 기업이 거의 다 독점한다)을 적용해 새로운 차원의 리그를 구축하고 있습니다. 야구는 인간이 하는 것이기에 불확실성에서 벗어날 수 없다고 믿는 몇몇 감독을 제외하면 거의 모든 팀의 감독이 선수별로 시프트를 펼칩니다.   





모든 타자와 투수들이 이루어낸 각종 자료들이 축적되면서 타자별 시프트가 이루어지고, 각종 정보들이 실시간으로 분석돼 피트백되면서 시프트에도 즉각적인 변화가 일어나기도 합니다. 구질별 회전수, 구속, 스윙속도, 타구의 속도, 비거리, 타구음, 풍속, 습도 등등.. 수없이 많은 정보가 축적되고 분류되고 범주화된 후 다양한 연산을 통해 일어날 수 있는 상황들에 대한 확률들이 제공되기 때문에 이런 것들이 가능합니다. 



핵심은 대다수 감독들이 인공지능에 의해 도출된 분석결과에 따라 시프트를 펼친다는 것이며, 더 많은 정보가 축적돼 예측 확률이 높아지면 타고투저 현상은 더욱 강화될 수밖에 없습니다. 즉 인공지능의 능력이 발전하면 인간의 전유물인 야구(스포츠)마저 인공지능의 영향에서 자유롭지 못하며, 작전부터 라인업,선수 영입에 이르기까지 모든 것이 단장과 감독의 영향에서 멀어집니다. 이런 식으로 인공지능은 인간의 전유물로 인정되던 영역들을 하나씩 점령해갈 것입니다(인공지능은 인간의 뇌처럼 자기복제적으로 진화하기 때문에 가능하며, 유전 알고리즘으로 모델링된다). 



이세돌을 꺾은 최근의 인공지능은 뇌스캐닝 기술과 생화학, 양자역학, 생물학, 생명공학, 나노공학, 정보통신기술 등의 발전에 힘입어 인간의 뇌처럼 패턴인식이 가능해진 것입니다. 알파고는 모든 수를 초고속으로 연산해서 다음 수를 두는 것이 아니라 이세돌처럼 쓸모없는 하수들이나 두는 저급한 수들을 배제한 채 고도의 수들만 연산합니다. 이런 연산은 바둑판 위에서 이루어지는 고도의 패턴을 인식(최적의 수를 찾아내는 재귀적 탐색도 동시에 이루어진다)하는 것으로 이루어집니다.   



알파고가 4국에서 진 것은 이세돌이 저급한 수로 분류돼 초고속 연산에서 배제된 수를 두었기 때문(트리구조는 저급한 수까지 제시하기 때문에 비효율적)인데, 이럴 경우 알파고는 새로운 패턴을 인식해야 하지만 시간의 제약 때문에 불가능했던 것입니다. 알파고가 5국에서 이세돌을 꺾은 것은 배제했던 뜻밖의 수에 대한 새로운 패턴을 학습했기 때문에 가능했습니다. 알파고로서는 초일류고수들이 둘 수 있는 뜻밖의 수에 대한 대비책이 엄청나게 늘어난 것입니다.  





이렇게 알파고로 대표되는 인공지능의 능력은 창의적인 수(바둑에 한정된 것이라고 해도)라는 인간 고유의 능력까지 넘볼 수 있을 만큼 일취월장합니다. 중국이 추진 중인 현 세계1위 커제(이세돌을 비롯한 거의 모든 초일류 고수들에 압도적인 우위를 보이고 있지만, 한국1위이며 세계2위인 박정환에게는 유독 약하다)와의 대국에서 알파고가 전승한다면 레이 커즈와일 등의 주장처럼 초인공지능이 생물지능(통섭적 지능)보다 우월해지는 것은 시간문제입니다.   



사실 개별 뉴런과 시냅스 차원에서 볼 때 인간 뇌의 정보처리 속도는 매우 느립니다. 이것을 극복하기 위해 수백조 개의 개재뉴런이 수백만 개의 연산처리 연결망을 구축해 엄청난 정보를 고속으로 연산합니다. 인간이 인간으로 살 수 있는 것은 이런 병렬방식의 연산능력 때문(인간의 기억이 뇌의 곳곳에 분산돼 저장되는 것도 병렬식 신경망 때문)이며, 인간 고유의 인식이라는 것도 패턴의 형태로 구현됩니다(디지털 연산의 아날로그적 표현). 인간의 지도를 받는 '머신 러닝', 인간의 지도를 받지 않는 '딥러닝' 등에서 패턴을 그렇게 강조하는 것도 이 때문입니다.    



4차원적 기억, 경험을 해석하는 것, 의사결정이나 이성적인 결정, 사물과 자연 등에 대한 이해, 사랑에 빠지거나 이별하고, 도덕적 행위를 하는 것 등은 뇌과학적(특히 뇌 역분석, 게이지장 이론처럼 양자역학도 이런 방식으로 여러 가지 발견들을 이루어냈다)으로 접근하면 패턴의 형태로 설명됩니다. 인간의 모든 생각과 인식은 개별 뉴런과 시냅스, 개재뉴런 등이 끊임없이 구축하는 패턴의 형태에 따라 이루어집니다(모든 것이 패턴의 형태로 이루어지는 것은 아니지만 고차원적인 것은 패턴의 형태로 접근해야 한다). 



주로 방추세포(약 8만개)에서 이루어지는 감정, 결정, 도덕 등의 인식도 뉴런, 시냅스, 개재뉴런이 이루는 연결망(패턴)에 의해 결정됩니다(양자역학, 복잡계이론, 카오스이론, 프랙털이론 등도 동원된다). 인공지능과 나노공학, 생명공학, 양자역학 등은 동시에 발전하고 서로 교류해 통섭적 발전을 이룰 수 있기 때문에 초인공지능의 출현을 막을 방법은 없습니다(이에 대해서는 별도의 글들로 다룰 생각이지만 쉽게 풀어낼 수 있을지는 모르겠다).  



많은 분들이 인간의 의지나 생각이 먼저라고 생각하지만 실제로는 특정 행위나 사유가 이루어지기 1/3초 전에 명령이 내려집니다. 인간은 자동적으로 내려진 명령보다 1/3초 늦게 인지해서 그것을 합리화하는 것인데, 인간은 1/3초 먼저 이루어진 명령까지 인식하지 못하기에 모든 결정을 자신이 내렸다고 믿게 됩니다. 이를테면 뇌의 일부분이 뇌 전체(인간이란 존재의 모든 것)를 상대로 사기치는 것입니다. 좌우반구, 뇌간, 척수 차원에서 이루어지는 것 등에 대한 것까지 포함해도 달라질 것은 없습니다.





아무튼 인공지능은 이런 패턴을 학습해서 인간의 사고와 인식들을 이해하고 재현합니다(다음 목표는 무한대의 경우의 수에 열려있는 스타크래프트라고 한다). 그런 학습이 특이점을 넘으면 인간보다 뛰어난 초인공지능이 출현합니다(신의 창조건, 진화의 법칙이건 필연의 과정인데 이 때문에 모든 것이 혼란스럽다). 이럴 경우 야구뿐만 아니라 인간이 하는 모든 일들을 인공지능이 대신할 수 있습니다, 그것도 탐욕스러운 인간이라면 절대 실현할 수 없는 완벽할 정도의 효율성과 경제성을 기본으로 한 채.



물론 인공지능이 지배하는 세상이 가능하려면 나노봇의 발전이 뒷받침해주어야 합니다. 운동 등을 담당하는 소뇌와 기억을 담당하는 해마에 대한 완벽한 모델이 구축되고(상당한 진전을 이루었다), 인간의 뼈와 근육을 대체할 수 있는 신소재가 개발되면(이미 후보군들이 여러 개 나왔다) 인간형 사이보그를 만드는 것도 시간문제입니다. 이럴 경우 초인공지능은 인간보다 뛰어난 신체를 지니게 됩니다. 지능과 육체 모두에서 인간의 가치가 사라지는 것이지요.



필자의 공부가 아직 미치지 못한 부분이 나노봇과 로봇을 만드는 나노공학과 생명공학에 대한 것(윤리와 도덕적 문제, 존재론적 문제까지 포함)인데, 오늘 도착한 책들을 다 읽으면 이에 대해서도 어느 정도의 추론이 가능할 것입니다. 원리원칙을 합리적으로 적용하는 초인공지능을 정치와 경제, 법률, 언론 등에 적용하면 지랄 같은 세상은 유토피아에 가까워질 것이지만(인공지능의 발전을 여기까지만 허용할 수 있다면 좋겠지만), 그것이 얼마나 오래갈 수 있을지가 저의 관심사입니다. 



앞의 두 글에서 밝혔듯이 초인공지능에게 인간만큼 비합리적이며 탐욕스런 존재는 없을 것이기에 그들에게 유리한 만큼의 인간만 살려둔 채 나머지는 멸종시킬 수 있기 때문입니다. 다시 말해 인류보다 뛰어난 초인공지능이 문제가 아니라 자신의 이익을 위해서는 동물로 돌아가는 것도 마다하지 않는 비합리적이며 탐욕스런 인간이 문제입니다. 초인공지능이 나오기 전까지는 극소수의 인간들이 전체 인류를 지금보다 효율적으로 지배하고 통제한 채 모든 이익을 독식할 가능성이 높다는 것도 자본주의 이후의 인간에 대한 성찰에서 나옵니다.




P.S. 우리가 보는 메이저리그 경기는 일종의 가상현실입니다. 모든 영상들도 마찬가지입니다. 우리가 보는 것은 영상이지 실제의 경기가 아닙니다. 야구장에서 직접 보는 것을 제외하면 우리는 디지털화된 영상을 아날로그적 관점에서 보고 있는 것에 불과합니다. 인류가 가상현실에 갇힌 존재가 될 가능성이 높다는 주장도 그래서 나옵니다. 어쩌면 우리는 삶의 상당 기간을 가상현실에서 보내고 있는 것일지도 모릅니다. 이 때문에 인간의 가치를 형편없이 만드는 것이 가능했고, 그중에서도 존재하는 모든 것을 타락시키는 최악의 신자유주의 국가인 대한민국이 가장 형편없는 나라가 됐는지도 모릅니다. 모든 인간이 집단적 성찰(개개인이 부처나 예수, 신선이 되는 것을 말하기 때문에 확률적으로 제로라 할 수 있다)에 이르지 않는 이상 부정적 전망에서 벗어날 수 없습니다.                    




  1. BOW 2016.06.09 21:50

    왠지 모르게 보면 볼수록 불안 내지 묘합니다.

  2. BOW 2016.06.09 21:52

    그리고 유토피아가 아니라 디스토피아겠죠.

  3. BOW 2016.06.09 22:07

    이대로 인류멸망일까요?!

    • 늙은도령 2016.06.09 22:56 신고

      잘 모르겠습니다.
      분명한 것은 인간이 초인공지능의 지배나 통제하에 놓일 것입니다.
      초인공지능을 인간의 삶에 헌신하게 할 수 있도록 만들 수 있다면 모를까...
      헌데 그것이 가능할지 모르겠습니다.
      인공지능은 머지않아 스스로 진화하는 단계에 이를 것입니다.
      인간의 뇌를 완벽히 모방한 다음에는 그 이상으로 진화하겠지요.

  4. gokou ruri 2016.06.09 22:08 신고

    만약 그 수를 계산하지 않았다면 프로그래머 실수이죠. 그러나 아마도 그것에서 대략적으로 알파고의 스펙을 알수가 있을것 같아요. AI를 만들때 AI가 인간처럼 생각한다고 생각하면 안되죠. 인간의 뇌가 아닌 개발자가 만든 프로그래밍을 따라가고 그것에서 빼버린 데이터는 연산하지 않게 됩니다. 즉 개발자의 실수가 4번째 패배를 만들었고, 개발자는 알파고의 스펙하에서 만들어야 했기에, 즉 연산량의 한계에 부딪히지 않고 제한시간내에 수를 내야 하면서 이겨야 하니까, 그 4번째 패배는 알파고의 한계를 보여주는 것입니다. 또한 여기에서 우리가 알아야 할것은 AI는 개발자의 가치관이 포함된다는 것이죠. 그 수를 신경쓰지 않아도 된다고 판단한 개발진의 실수이자, 알파고의 한계를 보여주었습니다. 글잘봤습니다^^.

    • 늙은도령 2016.06.09 22:53 신고

      인공지능이 특이점을 넘으면 프로그래머의 능력은 아무런 의미가 없습니다.
      인공지능이 스스로 알고리즘을 짜기 때문에ㅡ낮은 수준의 이런 알고리즘은 이미 현실에서 활용되고 있다ㅡ인간의 능력 밖에 존재하게 됩니다.
      알파고는 특이점을 넘는 과정에 있는 인공지능입니다.
      다른 분야에서 특이점을 넘으려는 인공지능들이 무수히 많기 때문에 이것들이 좀더 진화한 다음에 하나로 합쳐지면 초인공지능의 출현을 피할 수 없습니다.
      인간의 뇌에서 일어나는 고차원적인 인식작용들을 재현할 수 있는 모델들이 속속 구축되고 있어서 인간의 뇌와 동등한 수준의 기계지능이 탄생하는 것도 얼마남지 않았습니다.
      그 다음은 인공지능이 스스로 진화할 것이며, 인간지능보다 엄청난 능력을 지니게 될 것입니다.
      그 다음은 아직 추측하기 힘들지만...

  5. 耽讀 2016.06.10 07:32 신고

    진화론를 믿지 않지만 인간이 자연과 환경에 대한 적응력은 대단하다고 생각합니다.
    인간은 자신이 만든 인공지능 통제를 받아 지배받는 시대가 올 수 있을까요? 아니면 적응하여 자신의 통제하에 둘까요?
    지금 태어나는 아이들이 살아갈 시대가 어떻게 될지 궁금합니다. 상상할 수 없는 일이 일어나겠지요?
    51년 전 아니, 불과 10년 전만해도 스마트폰이 우리 몸과 눈을 통제하에 둔다고 생각하는 이들은 거의 없었습니다.
    10년 후 우리가 살아갈 세상? 정말 궁금합니다.

  6. 공수래공수거 2016.06.10 08:24 신고

    그래서 눈으로 보는것이 가장 중요합니다
    인간의 눈만큼 뛰어난 카메라가 없습니다

    그런데 점점 기계가 지배하기 시작합니다

  7. 2016.06.13 16:35

    비밀댓글입니다

  8. 참교육 2016.06.13 21:00 신고

    전문가가 아니라도 충분히 예측할 수 있는 미래.... 변화의 시각지대 학교는 아직 한 밤중입니다.

+ Recent posts