특이점
特異點 SINGULARITY
최근 알파고와 이세돌 9단의 대결로 많이 알려진 용어, 특이점. 특이점이라는 용어가 인공지능 분야에서 유명해진 것은 사실이나 이전부터 사용되던 개념이다. 일반적으로 사용되는 의미는 '일반적인 법칙이 붕괴되어 기존의 기준이 적용되지 않는 점'이다. 특히 수학과 과학에서 많이 사용되는데, 수학 분야에서는 대수기하학에서, 과학 분야에서는 물리학에서 자주 언급된다. 최근에는 기술적 특이점에 대한 관심이 높다.
"특이점이 온다(The Singularity Is Near)"
기술적 특이점에 대한 정의는 구글의 엔지니어링 이사인 레이몬드 커즈와일(Raymond Kurzweil)이 2005년 집필한 저서 "특이점이 온다(The Singularity Is Near: When Humans Transcend Biology)"를 통해 널리 알려졌다. 레이몬드 커즈와일은 저서를 통해 2045년 경이 되면 인류의 모든 지능을 합한 것보다 인공지능이 발달하면서 인류과 기계의 경계가 무너질 것이라고 예측하였다. 여기서 특이점은 인공지능이 궁극적으로 발달하면 입력된 정보 뿐만 아니라, 자체적인 사고를 통해 보다 고차원적인 사고능력을 계발하게 되어 인간이 더이상 인공지능의 사고능력을 예측할 수 없게 되는 상황을 말한다. 인류는 산업혁명 이후 놀라운 발전을 거듭해왔다. 이전의 농업혁명 시기와 비교하면 엄청난 격차이다. 이제 이 발전이 어디로 향할 것인가에 대한 한가지 가능성을 보여주는 것이 '특이점'이다.
생각의 출발은 명료하다. 인간이 만든 것이 인간보다 뛰어나다면? 인간이 더이상 뭔가를 만든다는게 의미가 없어진다. 인간보다 뛰어난 지능체가 인간보다 뛰어난 결과물을 만들어낼 것이기 때문이다. 인간이 인간보다 뛰어난 A라는 존재를 만들게 되면 A는 언젠가 자신보다 뛰어난 B라는 존재를 만들게 될 것이고, 결국 C, D, E.. 로 무한정 발전할 수 있다는 얘기이기 때문이다. 이러한 특이점의 전제로는 현재 발전중인 기술 대부분이 기반이 된다. 유전공학, 전자공학, 나노기술, 생물학 등 모든 과학분야들이 특정 수준을 넘어서게 되면 이 기술들의 상호작용으로 특이점이 발현된다.
"다양한 분야의 기반"
전자기술만 발전한다고 해서 특이점이 오지는 않는다. CPU 연산능력은 나날이 발전해왔으며, 단순 연산능력만으로는 인간의 뇌를 뛰어넘었다. 하지만 연산능력만으로 인공지능이 되지는 않는다. '어떻게 사고할 것인가?' 하는 문제-즉, 소프트웨어-를 해결해야 하는 것이다. 때문에 많은 과학자들이 인간의 뇌구조와 사고구조를 밝히기 위해 노력중이며, 상당 부분 밝혀졌다. 그리고 그 사고방식을 기반으로 인공지능에 대한 개발도 이루어지고 있다. 이번에 이루어진 알파고 대결은 그 현황을 확인할 수 있다는 점에서 의미가 크다. 알파고는 단순히 경우의 수많은 계산하여 게임을 진행하지 않는다. 실제 시도해보고 실패에서 학습한다. 알파고가 바둑을 두는 모습만 본 사람이라면 그저 바둑의 기보를 학습해서 그대로 두는 것이라고 생각할지 모른다. 하지만 알파고에게 벽돌깨기 게임을 시키면 알파고는 시행착오 속에서 게임의 해법을 찾는다. 그 과정이 인간과 상당히 유사하다. 처음에는 게임의 룰을 몰라 낮은 점수를 얻다가 이후 룰을 익히고, 더 놓은 점수를 얻기 위한 방법을 찾는다. 이는 단순히 계산만으로는 이룰 수 없는 것이다. '직관'이 필요한 과정이다. 알파고는 이 직관을 학습했다는 점에서 시사하는 바가 크다. (직관이 경험적 기반을 통해서 이루어지는지, 아니면 보다 고차원적인 통찰을 통해 이루어지는지는 의견이 분분하다. 하지만 경험적 기반이 충분하다면 직관이 가능하다는 것은 알파고가 증명했다고 생각한다.)
뿐만 아니라 나노공학 또한 큰 영향을 미치게 되는데, 이 기술들이 동시적으로 발전하게 되면 인류에게도 큰 변화를 가져올 것이다. 유전공학과 나노공학이 충분히 발전한다면 인간의 신체를 기계가 대체할 수 있게 될 것이기 때문이다. 기계라고 해서 거창한 것이 아니라, 몸안의 장기와 세포, 각종 호르몬 등을 기계적인 장치로 대체할 수 있다는 의미이다. 그렇다면 이것이 가져올 변화는 무엇인가? 인간이 사용하는 대부분의 시간은 '생존'과 연관이 있다. 먹고 자는 등 생리활동을 위한 에너지 소모가 많다. 즉, 인간은 죽을 때까지 신체를 유지하는데 상당 부분의 시간을 할애하고 있다. 기술의 발전은 이 시간을 줄여주거나 아예 없앨 것이다. 인간은 더이상 생존을 위한 활동에 시간을 할애할 필요가 없어지게 된다. 경제활동도 의미가 없어지는 것이다. 수명에 대한 제약도 없어질 것이다. 노화에 대한 연구는 꾸준히 이루어지고 있으며, 이를 극복하는 방법 또한 제시되고 있다. 기술이 충분히 발전한다면, 내장기관을 기계적 장치로 대체해 노화에서 해방될 수도 있다. 과연 그것을 '인간'이라고 불러야하는지 아닌지는 또 다른 문제지만 말이다. (단순히 생각하면 그것이 어떻게 인간인가, 라고 생각할 수 있지만 글쎄. 청동기시대나 중세시대에서 현대의 의료기술이나 과학문명을 설명한다면 미친놈 취급받기 십상이지만, 현재는 매우 당연한 것처럼 받아들여진다.) '테세우스의 배'라는 역설이 있다. 배의 일부분을 교체하면 일부가 바뀌기는 했지만 여전히 이전의 배라고 볼 수 있다. 하지만 그 일부분이 무한히 반복되어 전체를 교체하게 된다면 그것은 과연 처음의 배라고 볼 수 있는가, 하는 '연속성'에 대한 역설이다.
이 기술들이 충분히 발전하면 보다 발달된 인공지능을 개발할 수 있게 된다. 인간의 모습을 한, 인간처럼 사고하는(어쩌면 인간을 뛰어넘는) 존재가 탄생하는 것이다. 그것이 새로운 존재인지, 아니면 보다 진화된 인류의 새로운 버전인지 누가 결정할 것인지 모르겠지만.
* 인공지능에는 크게 강인공지능과 약인공지능이 있다. 강인공지능은 자아를 가진 것, 인풋 없이도 스스로 판단할 수 있는 인공지능이다. 반면 약인공지능은 주어진 명령만을 수행한다. 현재 개발된 인공지능들은 모두(알파고 포함) 약인공지능으로 분류된다.
"긍정적? 부정적?"
그럼 이후의 인간은 어떻게 변화할 것인가. 크게 가능성은 두 가지이다. 새롭게 진화하던지, 도태되던지.
긍정적인 시각은 이렇다. 인간의 새로운 가능성에 대한 또 다른 길일 뿐이라는 것이다. 지금까지도 인간은 과거에 상상도 못하던 것들을 실현시켜 왔으며, 인공지능 또한 그 연장선 중 일부라는 시각이다. 새로운 진화의 가능성은 알파고 대결에서 볼 수 있다. 알파고를 통해 기존에 인간이 두던 바둑방식에서 새로운 가능성을 발견했다. 인간이 인공지능에게서 새로운 가능성을 배운 것이다. 이를 바탕으로 인간은 더 나은 방식을 찾을 것이며, 이는 진화의 한 가능성이다. 신기술을 통해 수명에 대한 제약을 극복하고, 물리적 한계를 확장하며, 새로운 사회시스템을 만들어갈 것이다. 물론 진화한 인류가 이전의 인류와 같은 인류인지 하는 문제가 남는다. (새로운 인류가 구시대의 인류를 억압하지 않으리란 보장은 없다. 지금까지의 인류를 보면 오히려 당연히 구별되어 취급될 것이라고 보는게 당연하지 않을까.)
다른 하나는 도태이다. 문제는 "인간보다 뛰어난 지능체를 만든다면 인간이 무슨 수로 그 존재를 통제할 것인가?" 하는 것이다. 인공지능의 결과물이 도저히 인간의 사고능력으로는 이해할 수 없는 것일 때, 인간은 자신이 만든 인공지능에 의해 도태될 것이다. 아들인 제우스에 의해 축출된 크로노스처럼 인류는 자신이 만든 인공지능에 의해 멸망할 수도 있다. 새롭게 탄생한 존재는 기존의 인류보다 뛰어난 존재이며, 당연히 여러모로 우위에 설 수밖에 없다. 그 존재에게 도덕성이라는 것이 완벽히 존재한다면 모르겠으나, 데이터에 기반한 판단만을 한다면 인류에게 우호적인 가능성은 낮다. 물론 이러한 예측에도 헛점이 있다. 과연 인간이 만든 것이 인간보다 뛰어날 수 있는가, 하는 문제이다. 아무리 인공지능이 발달해도 인공지능이 할 수 있는 사고는 인간의 사고범주를 넘어설 수 없을 것이라는 점이 지적된다. 결국 인공지능의 바탕이 되는 데이터도 인간의 데이터이기 때문이다. (인공지능이 완벽한 통찰력을 가진다면 또 모르지만.) 설사 인공지능의 능력이 인간보다 뛰어나다고 하더라도, 얼마나 뛰어날지도 알 수 없다. 인간보다는 뛰어나지만 조금 나은 정도일 수도 있는 것이다. 때문에 인공지능이 자신보다 더 뛰어난 인공지능을 만드는 것은 불가능할 것이라는 지적도 있다.
어찌되었건, 과학의 발전은 인류를 변화시켜왔고 앞으로도 변화시킬 것이다. 인공지능도 그 흐름의 하나로 흐름 자체를 거스를 수는 없다. 왜 인류는 인공지능에 대한 관심이 높은가? 기술적 발전을 확인하고 싶은 욕망, 보다 편리한 생활을 위한 욕망, 변화를 향한 욕망 등 복합적인 요인들이 있을 것이다. 개인적으로 인류가 인공지능에 관심을 가지는 이유 중 하나는 두려움이라고 생각한다. 단순히 인공지능이 인류를 억압하거나 반기를 들 것이라는 종류의 두려움이 아니다. 인류가 만든 지적 존재가 과연 "인류의 실수를 답습할 것인가?" 하는 문제라고 생각한다. 현재까지 인류는 우주에서 지적인 존재라고는 인류밖에 만나지 못했다. 그래서 인류가 걸어온 길이 옳은 것인지, 혹은 당연한 흐름인지 대조군이 없다. 인류는 새로운 지적 존재를 만듦으로서 지금까지의 행적을 확인해볼 수 있다. 인류가 걸어온 길을 또 다른 지적 존재도 반복할 것인지, 아니면 인류에게 어떤 결함이 있어 인류는 실수할 수밖에 없었던 존재인지 확인할 수 있게 되는 것이다.
물론 공상에 지나지 않는다. 하지만 스마트폰도 한때는 공상이었다. 지금의 컴퓨터도 한때는 공상이었으며, 우주로 나아가는 것도 공상이었다. 언제 무엇이 이루어질지는 알 수 없으나, 그것을 상상해보고 사고하는 것도 중요한 인간의 능력이라고 생각한다.
