AI는 인간을 대체할 수 있을까? ... Non-Computable 인가, All-Computable인가

언젠가는 기계들이 변호사, 물리학자, 컴퓨터 프로그래머와 세계적인 지도자들을 대체할 수 있을까? 작곡가, 화가, 소설가도 대체할 수 있을까? 가까운 미래의 슈퍼컴퓨터들은 인간을 복제하거나 초월할 수 있을까? 우리는 단지 초강력 AI 보다 훨씬 뒤떨어진 두뇌나 자연 컴퓨터에 불과한가?

그러나 그리 걱정하지 않아도 된다. 적어도 『컴퓨터가 따라올 수 없는 당신, 당신은 AI가 결코 할 수 없는 것을 한다(Non-Computable You: What You Do That Artificial Intelligence Never Will)』는 책을 쓴 로버트 마크 2세(Robert J. Marks Ⅱ)의 생각은 매우 희망적이다. 이 책을 통해 마크 박사는 AI에 대한 수많은 거창한 주장들이 왜 증명 가능할 정도로 과장된 것인지를 설명하며, 아무리 시간이 흘러도 AI가 결코 가질 수 없는 능력이 왜 존재하는지를 보여준다.

그는 컴퓨터 과학, 알고리즘 정보 이론, 괴델의 불완전성 정리 등을 근거로 삼아 기계적 계산의 한계를 명확히 짚어냄으로써 인간과 AI의 경계선을 설정한다. 또한, 거대한 초고속 슈퍼컴퓨터나 고도화된 생성형 AI가 등장하더라도 인간 고유의 의식이나 퀄리아(주관적 감각 경험), 의미론적 이해, 직관적 자각, 자유 의지, 예술적·발명적 창의성은 결코 재현할 수 없음을 증명한다. 독보적인 인간의 영역은 대체불가능하다는 생각이다.

이와 함께 마크 박사는 ‘인간 예외주의(Human Exceptionalism)’를 내세워 인간은  단순한 생물학적 컴퓨터(Wetware)나 부품이 아니며, 알고리즘으로 설명할 수 없는 '계산 불가능한(Non-computable)' 고귀한 가치를 지니고 있다는 위로와 확신을 전한다.

그는 우리에게 매우 근본적인 질문을 던진다. AI가 인간 지능을 앞질러야 한다는 강박적 신화가 어디서 왔는지를 질문한다. 또 인간이 AI를 향해 인간이 할 수 있는 것보다 훨씬 빠른 연산을 달성할 뿐만 아니라, 인간다움의 정점인 의식, 감정, 자유 의지, 창의성까지 달성해 줄 수 있겠느냐고 기대하고 있는 것은 아닌지를 돌아보게 한다.

디스커버리 연구소의 ‘브래들리 자연 및 인공지능 센터’를 이끄는 마크 박사는 30년간 AI를 연구하며 AI의 힘을 잘 알고 있다. 하지만 그는 AI가 결코 의식적이거나, 느끼거나, 자유 의지를 행사하거나 창조적일 수 없는 이유를 설명한다.

그는 AI에 대한 과대광고가 결코 새로운 것이 아니라고 비판한다. 그는 “이미 1950년대에 뉴욕타임스는 AI가 ‘걷고, 말하고, 보고, 쓰고, 스스로를 복제하고 자신의 존재를 의식할 수 있을 것’이라고 자신 있게 예측했다. 최근에는 일론 머스크, 스티븐 호킹, 빌 게이츠 같은 과학 및 비즈니스 스타들이 AI가 인간을 대체하거나 우리를 파괴하려 할 수 있다고 경고했다. 또 다른 과대평가의 흐름은 유발 하라리가 대표하며, 인간과 AI를 결합해 인간을 신으로 진화시키길 기대하고 있다. 하라리가 '호모 데우스(Homo deus)'라고 부르는 것”이라며 그들의 과대광고를 경계한다.

구글의 엔지니어가 AI 챗봇이 "생명을 얻었고" "영혼"을 가졌다고 말했을 때, 그리고 또 다른 엔지니어가 "인공 신경망이 의식을 향해 진전을 이루고 있다"고 밝혔을 때도 마크의 생각은 다른 곳을 향했다.

마크 박사는 AI에 대한 과대광고를 해체하고, AI와 인간의 마음이 하는 일이 근본적으로 다르다는 점을 설명하고자 한다. “컴퓨팅 기계는 방대한 양의 정보를 저장하고 분류하지만, 지금은 그리고 앞으로도 삶의 퀄리아를 경험하지 못할 것이다. AI가 할 수 있는 모방은 전혀 다른 문제”라고 확고하게 말하며, 이 간극을 메울 수 없을 것이라고 주장한다.

인간은 AI가 ‘All-Computable You’로 향할지 아니면 ‘Non-Computable You’를 증명할지 매우 흥미로운 질문 앞에 서 있다. 긴 시간 속에서 이 질문에 대한 답이 무엇일지 지켜볼 일이다.

yjlee@newsdot.net