아담아, 네가 어디에 있느냐?

어디까지가 ‘우리’인가

얼마 전 정수기를 새로 교체했다. 모양도 작아지고 정수기를 관리해주던 코디도 필요 없어졌다. 자동 세척도 되고 필터 교환도 훨씬 쉬워졌다. 그러나 정수기를 마음 놓고 사용하는 데 시간이 걸렸다. 정수기가 이렇게 조심스러운 물건이었는지 새삼스러웠다. 지금도 몇 가지 기능을 알아보기 위해 매뉴얼을 뒤적이고 콜센터에 문의한다. 어떤 물건이든 누리기 전에 확인이 필요한 일들이 여전히 있다. 비싼 스마트폰을 산다고 한들 무용지물이다. 들어있는 기능을 다 사용하려면 학원이라도 다녀야 할 것 같다. 흔히 말하는 MZ세대와의 차이는 아마도 이런 것일수 있다. AI 포비아 정도는 아니지만, 변화를 인지하고 이를 생활에 적용하는 일들이 쉽지 않다. 구한말 전화기를 처음 보고 놀랐던 사람들 심정이 이런 것이었을까?

일반적으로 약 7만 년 전부터 3만 년 전 사이에 호모사피엔스가 출현했고, 새로운 사고방식과 의사소통 방식이 생겨났다고 한다. 이를 인지 혁명이라고 부른다. 인지 혁명은 말을 할 줄 아는 동물, 즉 이성적인 인간의 등장으로 시작되었다. 그 이후 인간은 땅을 경작하기 시작했고 다양한 문명들을 탄생시켰다. 거듭된 발전 속에서 시민의 등장과 더불어 근대가 출현했다. 종족과 가문이 아니라 개인이 중요한 세상이 되었고, 1차 산업혁명 이후 오늘날 4차 산업혁명이라 불리는 시기에 이르기까지, 놀라운 변화는 계속되었다. 그러나 이 모든 과정에서 변화에 대한 사람들의 반응이 모두 동일하지는 않았다. 누군가는 빠르게 누군가는 더디게 적응해나갔고, 누군가는 짜릿한 성공을, 누군가는 씁쓸한 실패를 맛보았다. 변화에 대응하는 인간의 모습은 언제나 돌고 도는 듯하다.

나에게도 세상의 발전이 신나는 때가 있었다. 누구보다 빠르게 변화에 적응하던 시절도 있었다. 그러나 기존의 일하는 방식이나 소비 형태뿐 아니라 생활 방식 전반에 걸쳐 속도와 범위, 깊이에 있어서 차원이 다른 변화가 일어나는 파괴적 혁명의 시기, 나는 구한말 전화기를 소환하는 슬픔을 맛본다. 이제 나는, 그동안 배우고 익힌 모든 것을 다시 돌아보며 삶의 의미를 물어야 하는 시간 속에 있다. 클라우스 슈밥은 4차 산업혁명에 관해 이야기하면서, 2025년을 티핑 포인트(tipping point)로 잡는다. 티핑 포인트는 대중의 반응이 한순간 폭발적으로 늘어나는 때를 일컫는 말로, 수면 아래 있던 노력의 결과가 밖으로 튀어 오를 때 쓰는 용어다. 학자들은 AI로 인한 티핑 포인트를 매번 앞당겨왔고, 슈밥의 그때는 이제 코앞에 왔다. 내가 구한말의 전화기를 상상하고 있는 이때 말이다.

그러므로 이는 단지 정수기나 스마트폰만의 문제가 아니라, 어떻게 살아야 할지의 문제다. 더욱이 4차 산업혁명에 따른 유례없는 패러다임 전환은 ‘무엇을’ ‘어떻게’ 할 것인지의 문제뿐 아니라 우리가 ‘누구인가’에 대해서도 변화를 일으킬 것이다. 우리는 누구인가? 어디로 가는가? 궁극적으로 우리에게 희망이 있는가? 이런 질문들에 대해 어떤 이들은 보다 근본적인 문제를 제기한다. ‘우리’란 우리 인간을 말하는가, 혹은 인간과 AI를 함께 말하는가? 기술의 발전이 기계와 협력하는 사람에게만 성공을 허락할 것이라는 예견은, 우리 미래를 AI와 분리해서 생각할 수 없게 만든다. 인간의 정체성과 더불어 ‘우리’의 범주에 AI를 넣는 문제를 함께 고민해야 할 지경에 이르렀다.

실제로 이 혁명적 변화의 중심에 포노사피엔스(phono-sapiens)의 등장이 있다. 2015년 〈이코노미스트〉 특집 기사에서 처음 등장한 이 단어는, 스마트폰을 신체 일부처럼 사용하는 인류를 의미한다. 스마트폰은 더 이상 기기가 아니다. 사용자 자신이다. 이러한 새 인류의 등장을 어떻게 이해해야 할까. 스콧 갤러웨이는 그의 책에서 ‘The Four’로 애플, 구글, 아마존, 페이스북을 언급하며 어떻게 이것들이 우리와 분리될 수 없는 하나인지를 보여준다. 애플의 스마트폰이 손에 들어오니 구글이 뇌 역할을 한다. 구글은 생각의 프로세스, 뇌가 지식을 찾는 방법을 바꾸었다. 페이스북은 심장에 해당한다. 관계와 애정을 재정의하며 ‘좋아요’를 통해 감정을 공유한다. 거기에 아마존은 소비생활을 바꾸며 ‘당신은 아무것도 하지 마세요. 누르기만 하면 우리가 모든 것을 해드립니다’라고 넘치는 친절을 보여준다. 이들은 단지 기업이 아니라 우리의 삶이 되었다. 이것들 없이 ‘우리’를 이해하는 것이 얼마나 가능할까?

AI는 어디까지 발전할 것인가

간단하게 말하자면, AI(Artificial Intelligence, 인공지능)는 만들어진 지능으로, 인간의 지능에 해당되는 기능을 갖춘 기계나 시스템을 의미한다. AI는 컴퓨터를 지능적으로 만드는 일을 목적으로 하기에, AI를 혁신적이라고 하는 것은 인간만의 고유한 능력이라고 믿었던 ‘지능’이 산업화하는 초유의 현상이 일어났기 때문이다. 종종 오해되지만, 로봇은 AI의 용기일 뿐이며, AI는 로봇 안에 있는 알고리즘이다. AI가 두뇌라면 로봇은 신체이고, 이 신체는 꼭 필요한 것도 아니며 어느 특정한 형태를 요하지도 않는다. AI는 다양한 형태로 우리 삶에 들어와있다. 그리고 결국 AI는 우리 신체의 일부를 차지할 것이다. 물리학 기술의 진보와 디지털 기술의 혁명에 이어서 4차 산업혁명의 궁극적 목표는 생물학 기술이기 때문이다.

트랜스휴머니즘(transhumanism)은 이를 지향한다. 최첨단 과학기술을 이용해 사람의 정신적·육체적 성질과 능력을 개선하려는 지적·문화적 운동을 트랜스휴머니즘이라고 한다. 트랜스휴머니스트들은 인간이 더 확장된 능력을 갖춘 존재로 변형될 것이라고 말한다. 이렇게 변형된 인간을 포스트휴먼(post-human)이라고 부른다. 포스트휴먼은 누구나 한 번쯤은 상상해봤을 슈퍼 인간의 모습을 서술하는 기술적 용어다. 2045년 정도 되면 AI가 살림을 주도하고, 2050년 정도 되면 3D 기술로 모든 생물의 장기를 만들 수 있을 것으로 예상하지만, 놀라운 기술의 발전 속도를 보면 몇 년 전에 나온 책들이 예상한 시기가 언제든지 앞당겨질 수 있다. 이미 약인공지능(Artificial Narrow Intelligence, ANI, 인간을 보조하는 수준의 인공지능)에서 강인공지능(Artificial General Intelligence, AGI, 인간급 인공지능)으로의 진보가 이루어지고 있다.

아마 2045년 정도면 인간의 지능을 뛰어넘는 AI가 가능하리라고 본다. 2045년에 이르면 기술적 특이점(technological singularity)에 도달하리라 예상하기 때문이다. 기술적 특이점은 AI 발전이 가속화되어 모든 인류의 지성을 합친 것보다 더 뛰어난 초인공지능(Artificial Super Intelligence, ASI)이 출현하는 시점을 의미한다. 증강 인간이나 포스트휴먼을 강조하는 사람들은, 독립적인 존재가 될 초인공지능에 유전자 기술과 나노 기술이 결합하면, 소위 제3의 종이라 할 수 있는 진정한 포스트휴먼이 등장할 것이라 예고한다. 인간의 생물학적 몸은 도태되고 최첨단 기술에 의해 성능이 증강된 존재 말이다. 초인공지능에 대한 논의는 물론 분분하다. 그런 일은 일어나지 않을 것이라는 결연한 희망도 있고, 벗어날 수 없는 기술적 미래에 대한 절망적 희망도 있다.

언젠가는 나올 것으로 예상했던 모든 것은 어느새 우리 현실 속에서 일어나며, 결국은 이러한 발전들이 포스트휴먼 사회를 재촉한다. 인간은 하나의 생각하는 기계로 전락할 뿐 아니라, 기술적으로 조작할 수 있거나 제작할 수 있는 존재가 될 수도 있다. AI가 계속 발전하면서 두려움이 증가하자, 학자들은 AI가 발전하더라도 ‘당신처럼 생각하는 것’은 나오지 않는다고 말했다. 그러나 이미 ‘나처럼’이 아니라, 나보다 더 정확하고 훌륭하게 생각하고 말하는 것, 그리고 그렇게 행동하는 것이 나올 가능성은 더욱 열려있는 듯하다. AI나 미래를 향한 두려움은 그저 근거 없는 것이 아니며, 지금은 충분히 두려워해야 할 때이다. 나는 기술 발전이 가져올 미래에 막연한 희망을 품기보다는 두려움으로 준비하는 자세가 더 필요하다고 생각한다. 그래야 미래가 어떠한 방향으로 나아갈지와 더불어 무엇을 해야 할지도 진지하게 고민할 수 있기 때문이다.

우리는 무엇을 해야 하는가

‘AI의 영향력은 단기적으로는 누가 통제하느냐에 달렸지만, 장기적으로는 결국 AI가 통제될 수 있는지에 달려있다’는 말을 종종 듣는다. AI 발전은 궁극적으로 인간이 이를 통제할 힘을 갖고 있느냐의 문제이다. 그 힘을 인간이 쥘 수 있을 것인가에 대한 회의는 점점 증가한다. 그러므로 AI 문제에서 가장 중요한 것은 그 목적에 대한 새로운 인식이다. 우리는 어떠한 모습으로 살고 싶은가. 우리가 원하는 것이 단지 노화나 각종 불치병에서 자유케 되고 장수를 누리며, 온갖 뛰어난 능력과 지혜를 소유한 무적의 몸을 자랑하는 증강 인간인가? 무엇을 추구해야 하는지 분명하지 않다면, 기술은 결코 우리에게 장밋빛 미래를 선사하지 않을 것이다.

우리는 지금까지 ‘미래 세상이 어떠할 것인지’를 물어왔다. 그러나 이러한 질문을 통해서는 미래를 예측할 수 있을지 몰라도 미래를 변화시킬 수 없다. 이제 질문은 ‘미래 세상은 어떠해야 하는가’로 바뀌어야 한다. 4차 산업혁명을 대표하는 여러 기술의 발전은 일기예보 같은 외부적 조건이 아니라 인간의 기획과 견인의 산물이기 때문이다. 인간은 의지를 품고 우리가 살아갈 세상을 만들어가야 한다. 그 세상 속에서 단순히 주어진 삶을 사는 인간(human being)이 아니라, 새로운 관계를 형성하는 사람(person)으로서 주체성을 잊지 말아야 한다. 육체적·생물학적 존재로서의 인간이 사람이 되기 위한 필수적이거나 충분한 조건은 아니다. 사람으로 산다는 것은 함께 사는 것이며, 내가 아니라 다른 사람과 올바른 관계를 맺는 일이기 때문이다.

4차 산업혁명 슬로건 중 하나는 ‘평균의 시대는 끝났다’라는 말이다. 기술의 수혜자는 개발자, 투자자, 주주 등 지적·물적 자본을 제공하는 사람들이다. 노동자와 자본가 사이의 불평등은 심화할 것이다. 누군가는 증강 인간을 꿈꿀 때 누군가는 그 그늘에서 기계의 지배를 받으며 허덕일 것이다. 불길한 예감은 미래의 풍요로운 혜택을 ‘모두’가 누릴 수 없을 것이라는 데서 온다. 역사를 통해 알 수 있듯이 기술의 발전 자체가 평등을 가져오지는 않는다. 컴퓨터 분야에서 사용되는 유명한 원칙은 이 시대에도 다시 한번 유용하다. “쓰레기가 들어가면 쓰레기가 나온다.” 모든 기술이 그랬던 것처럼 AI는 절대 가치중립적이지 않다. AI의 알고리즘이 제공하는 결과는 객관적이고 공정하기보다 자기 충족적이다. 알고리즘을 만드는 사람들의 세계관을 반영하기 때문이다. 데이터를 처리하는 과정은 독립적이기는 하지만 중립적이지는 않다. ‘무엇을 넣을 것인가’가 중요한 이유다.

결국 윤리의 문제이며, 윤리는 인간의 자기 인식을 드러낸다. 무엇을 해야 우리를 여전히 사람이라 할 수 있는가? 급진적으로 발전하는 AI 시대, 넓게는 두 분야의 윤리를 숙고해야 한다. 로봇윤리와 기계윤리이다. 로봇윤리는 AI를 만드는 사람과 이를 이용하고 배치하고 활용하는 사람을 대상으로 한다. 기계윤리는 AI를 행위자로 인식하여 AI와 그로 인해 만들어진 생산물까지를 대상으로 한다. 말하자면 AI 시대에는 세 가지 윤리 주체가 존재한다. AI 설계자/제작자, AI 사용자, AI. 이 모든 것은 어떤 목적으로 무엇을 넣을 것이며 이를 어떤 목적으로 어떻게 사용할 것인지, 그리고 독립적인 AI가 그 목적을 정당하게 수행할 수 있을지의 문제다. 기술로 인한 불평등을 극복하려면, AI 설계자와 사용자가 인간 공동체의 윤리와 정의를 필수적으로 이해하고 있어야 한다.

지금까지는 기술에만 초점을 맞추고 발전을 축하하는 등 인간의 능력에 스스로 감탄을 금치 못하면서, 기술이 가진 사회적 측면을 간과한 면이 없지 않다. 파괴적 혁신이라는 놀라운 변혁의 시대에 기술이 적용된 삶과 인간의 문제를 돌아보아야 한다는 당위성은 아무리 강조해도 지나치지 않다. 물론 이를 위한 노력이 이미 일어나고 있지만, 기술이 티핑 포인트에 다가가는 만큼 윤리적 이해가 그에 못 미치는 것도 사실이다. 더욱이 인류가 지금까지 품어온 자본주의적 가치가 우리 모두의 삶을 안전하게 지키지 못한 만큼, 이제 알 수 없는 미래를 이끌기 위한 모두스 비벤디(modus vivendi, 잠정적 합의)가 절실하다. 이는 어쩌면 한가한 이상일 수 있지만, 이제 ‘모두 함께’가 아니라면, 일부 사람이나 국가에 의해 점유된 기술은 우리 모두를 위험에 노출할 수밖에 없다. AI의 발전이 평등과 안정으로 이어지리라는 예상은 위험하고도 낭만적인 말이다.

우리는 어디 있는가

다양한 의견이 있지만 근대의 많은 철학자는 합리성과 자의식을 인간이 사람인지 아닌지를 구분하는 기준으로 생각했다. 합리성과 자의식은 근대적 개인의 발견이며, 또한 근대적 사회의 근간이기도 하다. 근대에 생겨난 인간에 대한 새로운 이해가, 근대라는 새로운 세계를 구축하는 요소이자 인간 이해의 기초 덕목이 되었다. 그리고 그것이 자본주의적 가치와 기술 등과 병합될 때, 근대적 질서는 동등한 기회와 도전이라는 미명 아래 늘 위태로운 불평등을 부채질했다.

그런데 성경은 이와 다른 인간 이해를 강조한다. 창세기 2장 7절은 “주 하나님이 땅의 흙으로 사람을 지으시고, 그의 코에 생명의 기운을 불어넣으시니, 사람이 생명체가 되었다”(새번역)고 말한다. 성경에서 인간의 조건은 하나님의 영이다. 인간은 하나님의 영으로 말미암아 생명을 얻은 자이며, 인간의 자의식은 이 사실에 대한 인식에서 출발한다.

하나님으로부터 받은 생명의 증거는 하나님의 말씀에 대한 순종에서 나온다. 인간의 타락이란 하나님의 명령에 대한 불순종과 다르지 않기 때문이다. 하나님은 자신의 영을 불어넣은 사람이 명령을 어기고 급기야 나무 사이에 몸을 숨겼을 때, 그를 찾아 나선다. ‘네가 어디 있느냐?’ 사람의 대답은 매우 솔직했다. ‘내가 벗었으므로 숨었습니다.’ 하나님의 질문과 인간의 대답 사이에는 묘한 긴장이 있다. 하나님의 질문은 ‘어디’라는 공간에 대한 질문인데, 그 사람의 답은 자신이 있는 공간에 대한 정보를 담고 있지 않다. 그는 ‘나무 사이’라는 위치를 감춘 채, 공간에 대한 하나님의 질문을 관계에 대한 답으로 바꾼다. 그는 ‘내가 숨어있다’라고 답한다. 이 대답은 창세기 1장에 나오는 하나님과 인간의 관계를 간접적으로 부정한다. 하나님과 인간은 더 이상 보기에 ‘좋은’ 관계가 아니다. 아담과 하와의 관계도 마찬가지다. 하와는 더 이상 아담의 ‘뼈 중의 뼈’ ‘살 중의 살’도 아니고, 그들은 서로 부끄러워하지 않는 사이도 아니다. 더욱이 아담은 하와가 선악과를 주어서 자신이 그 지경이 되었다고 말한다.

그들은 나뭇잎에 의지하며 하나님 앞에 숨은 존재가 되었다. 하나님 영의 생기는 사라졌다. ‘네가 어디 있느냐?’라는 질문은 결국 하나님과 인간, 인간과 인간 사이의 파기된 관계를 들추어낸다. 하나님에게 등 돌린 채, 서로 경쟁하고 자기만 살아남으면 되는 세상이 되었다. 인간이 사람일 수 있는 근거가 하나님의 영이라면, 이제 숨어있는 사람들이 의지하는 것은 하나님의 영이 아니라 나뭇잎일 뿐이다. 나는 종종 이 구절을 보면서 묻게 된다. 숨어있던 아담은, 하나님이 찾지 않았다면, 영원히 하나님 앞에 나서지 않을 작정이었을까? 그랬을지 모른다. 하나님의 영이 아니더라도 나뭇잎으로 충분하다고 생각했을지 모른다. 아마도 며칠이 지나 그 나뭇잎이 말라 부스러질 때까지는 말이다. 어쩌면 처음부터 인간이 생각할 수 있는 한계는 그 정도였는지 모른다. 나뭇잎이 마르기까지의 빤한 그 시간. 이를 무한정 가능한 시간이라 여기는 존재가 인간일지 모른다.

과학기술을 불순종의 상징으로 이야기하려는 것이 아니다. 인간의 근시안을 말하고자 한다. 하나님의 영을 잃고도 영원할 수 있다는 인간의 부질없는 희망 말이다. 기술의 발전은 죽음 없는 세상을 꿈꾸게 하며, 죽음에 대한 두려움이 없다면 신도 불필요할 것이라는 주장이 점점 더 목소리를 높여간다. 나뭇잎으로 옷을 만든 아담의 얄팍한 능력이 하나님의 영 없이도 영원한 자유를 상상할 수 있게 했다면, 오늘 우리의 놀라운 능력으로 우리가 하고 싶은 것은 무엇인가? 우리는 어디에 있으며, 어디로 가고 있는가? 하나님의 영이 떠난, 개인의 자의식과 합리성이 만들어갈 가공할 만한 불평등 속에서, 다시 모두 함께 하나님 앞에 설 수 있는, 하나님이 보시기에 좋은 피조물의 모습에는 어떤 책임이 따를 것인지 생각할 때이다.

스피노자는 《윤리학》에서 ‘우리가 어떤 것을 선이라고 판단하기 때문에, 우리가 그것을 향하여 노력하고 지향하며 추구하고 욕망하는 것이 아니다. 반대로, 우리가 어떤 것을 노력하고 지향하고 추구하고 욕망하기 때문에, 그것을 선이라고 판단한다’라고 말한다. 우리가 진정으로 선을 추구하는지, 선을 가장한 욕망을 추구하는지, 그것을 가늠할 수 있는 것은 우리의 기술이 아니다. 기술이 만들어가는 세상에서 하나님의 영이 부어진 인간의 생명을 꽃피울 수 있는 것만이, 욕망이 아니라 선을 향해 가는 길일 테다. 중요한 것은 기술이 아니라 기술을 이용하는 방법이다. 지금 AI가 무엇을 위해 누구를 위해 어떻게 사용되어야 하는지에 대한 고려 없이 우리가 욕망하는 선을 향해 달려간다면, 우리의 기술은 진정한 선을 따르는 길에서 걸림돌이 될 수 있음을 기억해야 한다. AI가 인간의 행위를 대체하고 인간의 지능이 부수적인 요소로 전락한다면, ‘우리’에서 생물학적 인간의 자리는 없을지도 모르겠다.

김호경
서울장로회신학교 교수 역임. 《인간의 옷을 입은 성서》 《종교, 과학에 말을 걸다》 《예수가 하려던 말들》을 썼다.