자세히보기

AI 인공지능

마인드업로딩 프로젝트 - 전뇌 애뮬레이션

RebeccaAidenYouJin 2023. 5. 3. 19:55

 

https://thesupercomputer.tistory.com/m/64

 

 

 

 

 

마인드업로딩 프로젝트

THE MASTER CODE

 

 
랜달 코엔은 인간의 뇌를 컴퓨터에 업로드할 계획이다. 랜달 코엔은 자신의 꿈을 도와줄 최고의 신경과학자들을 조직화하고 있다. 랜달 코엔의 궁극적 지향점은 인류의 진화다.



2013년 2월 1일 미국 샌프란시스코 포트 메이슨 센터. ‘빠르게 다가오는 멋지고 기괴한 미래’를 주제로 열린 ‘트랜스휴먼 비전 2014(Transhuman Visions 2014)’ 콘퍼런스에서는 모든 것이 가능해보였다.

메인홀 한쪽에서 젊은 사업가들이 실험적인 스마트 약물(smart drug)과 함께 특수한 버터를 넣은 커피를 팔고 있었는데 인지능력을 강화시켜주는 버터라고 선전했다. 그 옆에는 중년의 남성이 자신의 뇌파를 여러색의 문양으로 모니터에 보여주는 전극들을 착용한 채 서 있었다.
또한 강단 위에서는 머리를 삭발하고 턱수염을 기른 발표자가 ‘DIY 감각 증강’에 대해 장황한 연설을 늘어놓고 있었다. 그는 자신이 속한 ‘대중을 위한 과학(Science for the Masses)’이라는 연구단체에서 개발 중인 알약 덕분에 머지않아 인간도 근적외선을 육안으로 인식할 수 있을 것이라고 주장했다.

그는 또 자신의 외이(外耳)에 작은 자석들을 이식했다고 밝히기도 했다. 덕분에 자기(磁氣) 코일을 부착한 휴대폰을 활용, 소리가 아닌 진동으로 음악을 듣는다고 한다. 일종의 이식형 무선 골전도 이어폰인 셈이다.
하지만 그조차 다음에 올라온 발표자의 주장에 비하면 별반 대단하지도, 특이해보이지도 않았다. 이날 청중의 이목을 집중시킨 주인공은 검은색 건빵바지와 뇌 그림이 프린트된 티셔츠를 입은 랜달 코엔이라는 신경과학자였다. 강단에 선 그는 청중들에게 영원히 사는 법에 대해 설명하기 시작했다.
“종(種)으로서 인류는 지극히 작은 조각의 시공간 속에 살고 있습니다. 저는 인류가 더 넓은 시공간으로 나아가 효율성과 영향력, 창의력을 극대화할 수 있기를 원합니다.”

이를 위한 코엔 박사의 해법은 단도직입적이었다. 자신의 뇌를 컴퓨터에 업로드 하는 것이다. 두뇌 매핑을 통해 뇌 활동을 계산 가능한 형태로 변환하고, 계산된 결과를 실행하도록 코딩함으로써 인간은 컴퓨터 속에서 영생을 누릴 수 있다는 게 그의 주장이었다.
데스크톱 PC에 매킨토시 프로그램을 에뮬레이션 하는 것과 유사한 이치입니다. 일종의 플랫폼 독립형 코드라고나 할까요.”
이후 코엔 박사가 다양한 차트와 그래프를 보여주며 신경과학이 최근 거둔 성과들을 설명하는 동안 청중들은 경외감에 사로잡힌 듯 조용히 자리에 앉아 경청했다.

네덜란드 출신의 코엔 박사는 항상 트랜스휴머니스트들과 유기적인 관계를 유지해왔다. 이들 역시 자신과 마찬가지로 인간이 육체라는 껍데기를 벗어나 더 진보된 존재로 격상될 수 있다고 믿기 때문이다. 그리고 지난 수십 년간 자신의 생각을 주류 학계로 편입시키기 위해 필요한 자격들을 갖춰 왔다.

그 노력에 대한 보답인지 그는 최근 주류 과학계와 자신의 연구 사이의 괴리감이 크게 줄어들고 있음을 느낀다고 밝혔다.
“전 세계에서 무수한 연구자들이 뇌의 신비를 해독하고자 노력하고 있습니다. 미국과 유럽연합(EU)은 지난해에만 각각 수십억 달러 규모의 ‘브레인 이니셔티브(BRAIN Initiative)’, 12억 유로 규모의 ‘인간 뇌 프로젝트(Human Brain Project)’를 발표했죠. 인간 게놈 프로젝트가 유전공학의 비약적 발전을 이뤄낸 것처럼 이 두 거대 프로젝트에 의해 뇌 과학도 놀라운 수준의 도약을 하게 될 겁니다.”



뇌 에뮬레이션은 오랫동안 여러 공상과학 작품에서 다뤄져 왔던 개념이다. 하지만 이는 컴퓨터공학 분야에도 깊숙이 뿌리를 박고 있다. 예컨대 인간의 뇌 신경회로망을 모방하려는 ‘신경망(neural network)’ 혹은 신‘ 경 네트워킹’은 신경과학을 떠받치고 있는 물리적 아키텍처와 생물학적 규칙에 기반한다.

인간의 뇌는 약 850억개의 뉴런으로 이뤄져 있다. 또한 각 뉴런은 축삭돌기와 수상돌기라는 가느다란 돌기를 통해 최대 1만개의 다른 뉴런과 연결돼 있다. 뉴런이 발화될 때마다 전기화학적 신호가 한 뉴런의 축삭돌기에서 시냅스를 거쳐 다른 뉴런의 수상돌기로 전달되는 구조다. 뉴런 1개당 평균 1,000개의 시냅스가 있는 만큼 뇌의 전체 회로구조는 100조개에 달한다. 100조 가지의 다른 명령을 수행할 수 있다는 얘기다.

이렇게 우리의 뇌는 복잡다단한 방식으로 정보를 부호화하고, 입력된 정보를 처리하고, 여러 정보를 연관 짓고, 명령을 실행한다. 많은 신경과학자들은 이런 뉴런들의 상호작용 패턴 속에 인간을 인간답게 만들어주는 것들, 다시 말해 기억과 감정, 인격, 취향, 심지어 의식까지 숨겨져 있다고 믿는다.

이와 관련 1940년대에 신경생리학자 워런 맥컬럭과 수학자 월터 피츠는 뇌 활동을 수학으로 묘사할 간단한 방법을 제시했다. 이들은 뉴런들의 복잡한 상호작용과는 상관없이 각 뉴런의 상태는 2가지, 즉 ‘활성화’ 또는 ‘휴면’ 밖에 없음에 주목했다.

초기 컴퓨터공학자들은 이 사실을 응용할 경우 인간의 뇌와 유사하도록 기계를 프로그래밍 할 수 있음을 알아챘다. 뇌의 활성화 및 휴면 모드를 모방, 1과 0으로만 이뤄진 2진법적 전기 스위치로 기계의 기본 논리시스템을 설계할 수 있기 때문이다.

그로부터 수년이 지나 캐나다의 심리학자 도널드 헵은 인간의 기억이 네트워크 내에 부호화된 연상에 불과하다고 주장했다. 뉴런들에 의해 이 연상 작용이 우리 뇌 속에서 동시다발적, 또는 순차적으로 발화하는 것뿐이라는 설명이다.

예를 들어 어떤 사람을 만나서 얼굴을 보고, 이름을 들었다면 뇌의 시각피질과 청각피질을 구성하는 뉴런들이 동시에 발화, 두 정보를 연결한다. 며칠 뒤 다시 그 사람을 만났을 때는 얼굴만 봐도 이름을 부호화한 뉴런까지 함께 발화돼 이름이 기억나게 된다는 것이다.

컴퓨터공학자들은 이에 기반해 연상의 형성, 다른 말로 학습이 가능한 인공 신경망을 개발했다. 새로 데이터가 입력되면 그와 관련된 과거의 데이터가 링크(기억)되도록 하고, 두 데이터가 미래에 연결될 가능성도 예측하도록 신경망을 구성하는 방식이었다.

오늘날 이 같은 종류의 소프트웨어는 다각적 형태의 복잡한 패턴 인식 임무를 수행할 수 있다. 일례로 특정 소비자의 신용카드 사용내역을 분석, 일상적 소비 패턴에서 크게 벗어나 있어 타인에 의한 불법 사용이 의심되는 내역을 감지할 수 있다.

물론 신경과학자들은 현재의 인공 신경망을 놓고 인간 뇌의 복잡성을 구현할 첫 단추가 끼워졌다고 말하지 않는다. 여전히 뉴런의 정확한 상호작용 기전이나 여러 화학적 경로가 뉴런의 발화에 미치는 영향을 확실히 파악하지 못했다는 이유에서다. 뇌에는 아직 규명되지 않은 규칙들이 존재한다는 게 이들의 판단이다.

그럼에도 한 가지는 분명하다. 현 시점에서 랜달 코엔 박사의 꿈을 실현하기 위한 전제인 ‘개인의 정체성은 각 뉴런 및 뉴런 사이의 상호작용의 산물에 불과하다’는 주장을 가장 확실히 뒷받침해주는 근거가 바로 신경망이라는 점이다. 향후 과학기술이 인간의 뇌 활동 대부분을 기록·분석할 수 있게 된다면 이론상 뇌 활동을 계산의 영역으로 옮겨 놓을 수 있다.



2014년 1월말의 어느 따스한 날 오후. 필자는 코엔 박사를 따라 2층집 계단을 오르고 있었다. 샌프란시스코 포트레로 언덕에 위치한 이곳에서 그는 여자친구와 함께 살고 있었다. 거실을 지나 침실로 들어가자 워킹 데스크가 눈에 띄었다. 아마도 침실 겸 사무실로 활용하고 있는 듯 했다.

입자물리학자의 아들로 태어난 코엔 박사는 13살 때 아더 C. 클라크의 공상과학 소설 ‘도시와 별’을 통해 정신 업로딩의 개념을 처음 접했다. 10억년 후의 미래도시 디아스파(Diaspar)를 그린 이 소설 속에서 주민들은 중앙컴퓨터에 데이터 형태로 저장돼 있다가(=영혼의 집, House Of Soul에 저장되어 있다가) 육체가 만들어지면 정신을 입력해 살아간다. 그리고 육체가 죽으면 다시 중앙컴퓨터에 저장돼 새 육체를 공급받을 순서가 될 때까지 기다리는 식으로 영원히 환생한다.

“인간의 육체와 뇌는 유한한 존재에요. 하지만 클라크는 인간이 정보로서 존재하고, 그 정보가 새로운 육체로 갈아 탈 수 있는 미래를 그려냈어요. 이 책을 읽고 인간의 한계에 대한 고민이 시작됐습니다.”

그는 정신 업로딩이 인생을 걸만한 가치가 있는 꿈이라 여겼다. 대학에서 물리학을 전공한 것도 각 원자의 배열을 재구성할 방법을 알아내면 자신의 목표를 이룰 수 있다고 생각했기 때문이었다. 하지만 대학을 졸업할 무렵, 자신에게 진정 필요한 것은 전자 두뇌(digital brain) 관련 지식임을 깨달았다. 그래서 네덜란드 델프트공대 대학원에 진학, 신경망과 인공지능을 공부했다.

그러던 1994년 그의 삶에 중요한 전기가 찾아왔다. 자신과 동일한 꿈을 꾸는 사람들의 인터넷 커뮤니티를 발견한 것이다. 미국 오하이오주 출신의 컴퓨터광이자 신경과학자, 그리고 자칭 영생주의자인 조 스트라우트가 운영하는 ‘마인드 업로딩 홈페이지(mind uploading home page)’였다.

코엔 박사는 즉시 스트라우트의 토론 그룹에 가입했고, 기술적으로 뇌로부터 정보추출이 가능한지 또는 그런 행위를 뭐라고 명명해야 할지에 대해 회원들과 논쟁을 벌였다. 다운로딩, 업로딩, 정신 이동(mind transfer) 등을 놓고 공방을 벌인 끝에 회원들은 ‘전뇌 에뮬레이션(whole brain emulation)이라는 용어를 쓰기로 결론 내렸다.

이후 각 회원들은 이 꿈을 이룰 커리어를 쌓기 시작했다. 코엔 박사의 경우 캐나다 맥길대학에서 계산신경과학 박사과정을 밟았고, 보스턴대학 신경생리학연구소에서 쥐의 뇌 활동을 컴퓨터에서 재현하는 연구도 수행했다.

스트라우트 또한 신경과학 분야의 박사학위를 취득한 뒤 솔크 연구소에 들어가 계산 신경생물학을 연구했다.
“당시 선배 신경과학자들은 저희들의 연구를 탐탁지 않게 생각했습니다. 공개적으로 논의할 수 있는 주제가 아닌 데다 연구보조금을 얻기에는 주류과학에서 너무 벗어나 있다는 거였어요.”

2007년에는 트랜스휴먼에 따른 생명윤리를 연구 중이던 영국 옥스퍼드대학의 계산신경학자 앤더스 샌드버그 교수가 자신의 연구주제에 흥미를 가진 전문가들을 초청해 2일간의 워크숍을 개최했다. 당시 참석자들은 뇌 구조 및 작동기전의 도식화, 각 작동기전의 기능적 역할, 뇌 구조를 모방할 소프트웨어 및 하드웨어의 개발 등 인간의 뇌를 에뮬레이션하기 위한 로드맵을 설정했다.

그로부터 얼마 지나지 않아 코엔 박사는 보스턴대학을 떠나 유럽 최대 민간연구기구 중 하나인 스페인의 파트로닉 테크날리아(FATRONIKTecnalia) 연구소장으로 부임했다. 하지만 2010년 다시 실리콘밸리의 나노기술 전문기업 헬시언 몰레큘러의 분석책임자로 자리를 옮겼다.
“파트로닉 연구소는 전뇌 에뮬레이션에 따르는 어떤 리스크도 감수하려 하지 않았고, 그것이 가져올 찬란한 미래에 대해서도 전혀 관심이 없었죠.”

반면 페이팔의 공동설립자 피터 시엘, 억만장자 사업가 엘론 머스크 등으로부터 2,000만 달러 이상의 자금을 출자 받아 설립된 헬시언은 달랐다. 이 회사의 궁극적 목표는 저렴한 DNA 서열분석 장치를 개발하는 것이었지만 경영진은 코엔 박사의 목표를 인정했고, 그 목표에 다가설 시간과 자원을 지원해줬다.

2012년 헬시언이 예기치 않게 문을 닫을 때쯤 코엔 박사는 정신 업로딩 지지자들의 허브 역할을 할 ‘카본카피스(carboncopies.org)’라는 비영리기구를 창설했고, 다양한 사람들과 교류했다. 그리고 수개월 뒤 러시아 닷컴 업계의 거물이자 억만장자인 드미트리 이츠코프의 자금 지원을 약속받았다. 자신을 정교하고 인공적인 존재에 업로드하고 싶어 했던 이츠코프에게 전뇌 에뮬레이션의 구현은 필수적으로 거쳐야할 단계였던 것이다.

코엔 박사는 워킹 데스크의 모니터에 차트를 띄우면서 이렇게 말했다.
“전뇌 에뮬레이션이라는 신학문이 진지하게 받아들여지도록 만들기 위해 저희는 그에 걸맞은 기초를 제공해야 합니다.”

차트에는 로드맵의 목표에 맞춰 이름과 소속이 적힌 원들이 겹쳐져 있었는데 코엔 박사는 가장 바깥쪽 원을 손가락으로 가리켰다.
“이들이 바로 저희와 양립 가능한 연구개발 목표를 추구하는 연구자들입니다.”
그리고는 다시 안쪽의 작은 원을 가리켰다. 전뇌 에뮬레이션을 주도하는 신경과학자들이었다. “저와 한 배를 탄 사람들이죠.”



오늘날 정신 업로딩 분야의 로드맵에 적시된 모든 핵심적 과제는 공교롭게도 신경과학계가 활발히 연구 중인 영역과 일치한다. 물론 연구의 목표는 전혀 다르다.
뇌 구조와 기능을 더욱 잘 이해함으로써 지금껏 완치가 불가했던 몇몇 불치병과 난치병을 고치기 위함이다.

이와 관련 뇌 지도 매핑 분야의 권위자인 제프 리히트먼 박사는 하버드대학에서 인간의 뇌 속 모든 뉴런들의 상호 연결지도를 만들기 위한 국제 뇌 과학 프로젝트 ‘휴먼 커넥톰(Human Connectome)’을 진두지휘하고 있다. 현재 주력하고 있는 주제는 경험이 부호화되는 물리적 메커니즘을 뇌의 가장 기초적인 단계에서 이해하는 것이다.

이를 위해 리히트먼 박사팀은 정신 업로딩 전문가이자 리히트먼 박사의 연구실에서 박사후연구원으로 있었던 케니스 헤이워드가 개발한 획기적 장비를 활용한다. 이 장비는 쥐의 뇌를 면도날처럼 얇게 썰어서 순서대로 릴 테이프 위에 올려놓는다. 그리고 이를 스캔한 전자현미경 이미지를 컴퓨터 모니터에 나타낸다. 이렇게 개별 뉴런들을 마치 영화 필름을 한 프레임씩 보듯 연속적으로 관찰한 리히트먼 박사는 매우 흥미로운 사실을 발견했다.
축삭돌기와 수상돌기가 만나 시냅스가 형성된 곳을 따라가 보면 동일한 수상돌기에 또 다른 시냅스가 만들어진 것을 확인할 수 있습니다. 주변에 80~90개의 수상돌기가 널려 있음에도 축삭돌기가 특정 수상돌기를 일부러 선택한 듯이 말이죠. 이는 인간의 뇌 속 뉴런들이 무작위로 엉켜 있지 않음을 의미합니다.”

리히트먼 박사가 처음 연구를 시작했던 5년 전만 해도 뇌 이미징의 속도는 거북이보다도 느렸다.
그의 표현을 빌리면 쥐 뇌의 1,000분의 1, 인간 뇌의 100만분의 1에 불과한 1㎣의 뇌 이미지를 생성하는 데 수백 년이 걸릴 것 같았다고 한다. 그러나 현재 연구팀이 사용 중인 장비는 수년 만에 1㎣를 처리한다. 특히 올 여름 들여놓을 최신 현미경은 단 몇 주일이면 이 작업을 해낼 수 있다.
“이런 장비들을 다수 운용할 경우 인간의 뇌 전체를 이미징 하는 것도 충분히 가능합니다.”

리히트먼 박사팀과는 별도로 상당수의 연구팀들이 뉴런의 기능을 도식화하고자 열정을 불태우고 있다. 작년 봄 미국 오바마 대통령이 발표한 브레인 이니셔티브도 그중 하나다. 초기 투자비만 1억 달러에 달하는데 연구자들은 전체 연구비가 인간 게놈 프로젝트 수준인 38억 달러까지 확대되기를 희망하고 있다.

또한 브레인 이니셔티브에 영감으로 준 것으로 알려진 미국 컬럼비아대학의 신경과학자 라파엘 위스트 박사는 지난 20여 년간 뉴런의 활성화 기전과 다른 뉴런을 억제하는 방식을 추적할 도구의 개발에 매진하고 있다. 그는 뉴런들이 신경망에서 발화하는 방식과 상호작용을 연구하면 정신분열증이나 자폐증 같은 정신질환의 실체 규명을 비롯해 많은 사실들을 알 수 있을 것으로 본다.
“인간의 진정한 정체성은 뇌 활동 속에 숨겨져 있다고 봅니다. 그 이상도, 그 이하도 아니에요. 머릿속에 마법 같은 것은 없어요. 뉴런의 발화가 있을 뿐입니다.”

과학자들이 이 뉴런의 발화를 연구하기 위해서는 각 뉴런의 활동을 기록해야 한다. 하지만 현재의 미세공정 기술로는 한계가 존재한다. 이에 MIT 미디어랩의 신경공학자 에드워드 보이든 교수는 지금보다 밀도가 100배나 높은 전극 어레이를 개발하고 있으며, 캘리포니아대학 버클
리캠퍼스 연구팀은 지난해 ‘신경 먼지(neural dust)’라는 나노 입자를 뇌의 피질에 이식해 무선 ‘뇌-기계 인터페이스(BMI)’로 활용하는 야심찬 프로젝트를 시작했다.

미국에 뒤질 세라 EU도 지난해 야심찬 프로젝트를 내놓았다. 12억 유로의 연구비가 투입되고, 130개 연구기관이 참여하는 인간 뇌 프로젝트가 그것이다. 이 프로젝트의 궁극적 목표는 지금껏 알려진 뇌의 작동기전을 모두 통합한 슈퍼컴퓨터 시뮬레이션의 개발이다.

코엔 박사는 최근 급속도로 진전되고 있는 이 모든 상황에 전율을 느낀다고 했다. 그중에서도 그가 특히 주목하고 있는 연구는 동물실험이 한창인 ‘뇌 시뮬레이션’ 기술이다. 2011년 미국 서던캘리포니아대학과 웨이크포레스트대학 공동연구팀이 세계 최초의 인공 신경 이식에 성공한 것. 연구팀을 이끈 서던캘리포니아대학의 생물의공학자 시어도어 버거 박사에 의하면 인공 신경을 이식받은 쥐는 인공 신경의 전기신호를 실제 뉴런의 전기신호와 동일하게 받아들여 반응한다.
“해마 속 개별 뉴런들의 신경 부호, 다른 말로 뉴런의 시공간적 발화 패턴을 발견했습니다. 이 분야 연구에 엄청난 돌파구가 생긴 겁니다.”

연구팀은 해마의 두 영역에 존재하는 뉴런들이 전기신호를 변환, 새롭게 재배열하여 뇌의 다른 부분에 전파하는 방식으로 장기기억의 저장에 관여한다고 봤다. 그래서 연구팀은 쥐에게 특정훈련을 반복시켜 뇌에 기억되도록 하면서 그때의 뉴런 입·출력 신호를 기록했다. 그리고 이 출력신호를 인위적으로 송출하도록 프로그래밍 된 컴퓨터 칩을 준비했다.
“쥐의 해마 중 한 층을 파괴했더니 기억을 하지 못하더군요. 그런데 인공 신경(컴퓨터 칩) 이식했더니 해마가 파괴되기 전처럼 기억을 해냈습니다.”

이후 영장류의 해마와 전전두엽에 위치한 뉴런들의 활동까지 재현해 낸 연구팀은 앞선 연구결과를 검증하기 위해 한층 복잡한 기억과 행동을 대상으로 실험을 반복할 계획이다. 이 실험까지 성공할 경우 해마 절제술을 받은 간질 환자들을 대상으로 인공 신경을 이식하는 임상시험에 돌입하게 된다.

코엔 박사는 이 실험을 이렇게 평가했다.
“버거 박사팀의 실험은 우리가 알지 못했던 뇌 회로의 작동기전을 분석, 인위적 방식으로 그 기능의 대체가 가능함을 보여줍니다. 인간의 뇌는 아주 많은 뇌 신경 회로들의 군집에 불과한 것입니다.”



그날 오후 코엔 박사는 샌프란시스코주에서 50㎞ 떨어진 페탈루마의 복합상업지구의 한 건물로 필자를 데리고 갔다. 알프스산과 열대의 석양을 배경으로 집‘ 중’, 상‘ 상력’과 같은 단어가 크게 적힌 포스터들로 치장된 건물이었다.

회의실에 들어가자 진한 프랑스 억양을 소유한 은발의 전직 IBM 엔지니어인 가이 빠이예가 기다리고 있었다. 그는 코엔 박사의 연구결과를 접하고 뇌의 물리적 구조를 모방한 신개념 에너지 절약형 컴퓨터 칩을 개발했다고 자신을 설명했다. 코엔 박사가 회사 상황을 물었더니 자금난에 빠진 프랑스 남부의 반도체 파운드리 업체를 인수하려고 협상 중이라는 대답이 돌아왔다.

말이 끝나기 무섭게 코엔 박사는 다시 한 가지 제안을 했다.
“지금 파운드리 사업에 뛰어들 생각을 하고 있나 본데, 지금 캘리포니아대학 버클리 캠퍼스에서 새로운 신경 인터페이스를 개발하려 하고 있어요. 그들의 프로토타입이 제대로 작동한다면...”
연구팀의 신경 인터페이스 제작에 합류할 수 있는지 묻기도 전에 빠이예가 코엔 박사의 말을 막았다.
“정말 좋은 아이디어네요!”
주차장을 나설 무렵 코엔 박사의 사기는 충천해 있었다.
“이게 제가 하는 일이에요. 개인적 호기심으로 움직이고 있는 수많은 연구소와 연구자들을 만나서 자문을 해주고, 필요할 때는 서로를 연결시켜주기도 합니다. 그들의 연구가 두뇌 업로딩에 도움이 된다는 사실을 인식시키고, 포기하지 않도록 독려하고 있어요. 도움을 청했던, 청하지 않았던 상관없이 말이에요.”

분명 이 분야의 많은 연구자들이 코엔 박사의 자문을 받고 있었고, 그와의 공동연구를 원하는 곳도 적지 않다. 이는 작년 봄 코엔 박사와 이츠코프가 주최한 국제학회 ‘글로벌 퓨처 2045’에서 극명히 드러났다.

2045년까지 가상의 육체에 인간의 정신을 옮기려면 필요한 것들과 정신업로딩이 갖는 의미를 논의하는 이 학회에서 강연을 하고자 MIT, 하버드대학, 듀크대학, 서던캘리포니아대학 등 미국은 물론 세계 각지의 석학들이 뉴욕 링컨센터를 찾아왔다.

그리 놀라운 일은 아니지만 학회 참석자들 중에는 코엔 박사가 지향하는 ‘영적이고 과학기술적인’ 꿈과 거리를 두고자 하는 경우도 있기는 했다. 신경 먼지를 연구 중인 캘리포니아대학 버클리캠퍼스의 호세 카르메나 박사도 그랬다.
“이곳에 모인 사람들은 중요한 의문을 탐구하기 위해 더 많은 사람들이 더 많은 자금을 투자할 수 있도록 노력하고 있습니다. 그러나 저희들 모두의 목표가 같지는 않습니다. 가능한 많은 뉴런의 활동을 기록하는 것처럼 세부 목표는 같지만 최종 목표는 다를 수 있어요. 저희 연구팀의 경우 뇌에 대한 이해를 높이면 족합니다. 그 이해를 바탕으로 뇌의 모든 것을 컴퓨터에 업로드하려는 사람들도 있지만요.”

카르메나 박사 외에도 다수의 연구자들이 전뇌 에뮬레이션에 대해 말을 아꼈다. 자신들은 그 기술적 타당성에 제한적이고 조심스러운 의견을 갖고 있음에도 혹여 추종자나 지지자로 오인 받는 상황을 두려워하는 듯 했다. 컬럼비아대학 라파엘 위스트 박사의 말이다.
“두뇌의 이해와 두뇌의 개발은 전혀 다른 얘깁니다. 예를 들어 설명하자면 뉴런을 차치하더라도 뇌의 물리적 구조조차 매우 복잡합니다. 게다가 만일 뇌의 본질이 양자물리학에서 나타나는 확률론적 과정에 기초하고 있기라도 한다면 뇌를 복제하는 것은 불가능합니다.

이에 비해 하버드대학 리히트먼 박사의 시각은 다소 긍정적이었다.
“전뇌 에뮬레이션 연구에 새로운 물리학 법칙까지 필요할지는 모르겠지만 이 시도가 개의 몸통에 소의 머리를 붙이는 것만큼 완벽히 불가능하다고는 생각지 않습니다. 공상과학적 아이디어이기는 해도 미친 짓은 아니에요.”

그는 전뇌 에뮬레이션 연구가 신경과학 발전에도 이로울 것이라 여긴다. 때문에 케니스 헤이워드와 같은 연구자들이 성공하기를 바란다. 설령 영원히 사는 법을 발견하지 못하더라도 뇌 기능장애를 고칠 방법을 찾는데 도움을 줄 수는 있다는 판단이다.



케니스 헤이워드는 현재 하워드 휴스 의학연구소(HHMI) 산하 자넬리아 팜 연구캠퍼스의 선임연구자로서 뇌 신경망을 도식화하는 커넥톰(Connectome) 연구를 이끌고 있다. 지금보다 더 넓은 영역의 정확한 뇌 이미지를 보여줄 기술을 개발 중이다.

그는 또 뇌 보존 재단(BPF)을 설립하기도 했다. BPF에서는 전뇌 에뮬레이션 기술이 실용화 될 때까지 뇌를 보존할 기술의 개발자에게 상금을 걸어놓고 있다.
“전뇌 에뮬레이션이라는 주제가 논란의 대상이라는 것은 저도 잘 알고 있습니다. 이 분야에 뛰어들 과학연구기관이 그리 많지 않다는 것도 알죠. 하지만 언젠가 작금의 상황이 바뀔 것이라고 믿습니다.”

이 시점에서 한 가지 근본적인 의문이 생길 수 있다. 전뇌 에뮬레이션을 하면 뭐가 좋은지에 대한 의문이다. 컴퓨터 코드 속에 갇혀서 누리는 영생이 과연 얼마나 좋을까?

필자는 곧바로 스트라우트의 토론 그룹에서 활동했던 옥스퍼드대학의 토드 후프먼에게 전화를 걸어 인터뷰 약속을 잡았다. 그리고 코엔 박사와 함께 그의 회사를 찾아가 전뇌 에뮬레이션이 진정한 영생인지, 인류가 무엇을 얻을 수 있는지를 물었다.

“그것을 통해 현대를 살아가는 인간의 사고 구조를 들여다 볼 수 있고, 인간의 역사와 본질에 대한 이해도 높일 수 있습니다. 지금과 같은 방식으로 인간의 창의성, 동기, 지각능력 등을 연구하는 것은 수박 겉핥기에 불과해요. 인간의 본질을 알아내 인체가 아닌 다른 물질에 옮길 수 있다면 개인이 할 수 없었던 일들을 해낼 수 있습니다. 저희는 인류가 하나의 종(種)으로써 계속 진화해 나가기를 원합니다.”

코엔 박사 또한 전뇌 에뮬레이션이 인류를 진화와 직결돼 있다고 강조했다. 지구라는 행성의 속박에서 인류를 해방시키고, 유기체로 된 몸으로는 불가능했던 것들을 경험할 수 있도록 해주는 일이라고 말이다.

“예를 들어보죠. 태양 가까이서 여행하는 기분은 어떨까요? 제가 이런 연구를 하고 있는 것은 우주 전체를 탐험해보고 싶어서입니다. 우리의 생물학적 인체는 정해진 시공간에서만 살 수 있지만 그 구속을 벗어 버리면 상상도 할 수 없던 것들을 얻게 될 것입니다.”




뇌 신경망의 남다른 비주얼
인간의 뇌는 수조개의 시냅스로 연결된 850억개의 뉴런들로 이뤄져 있다. 이 뉴런들이 서로 힘을 합쳐 인격, 기억 등의 정보를 부호화한다. 하버드대학 뇌과학센터 연구팀이 개발한 ‘브레인보우(Brainbow)’ 기술을 이용하면 이러한 뇌의 정교한 회로구조를 시각적으로 매핑할 수 있다.

1 연구팀은 형광 단백질을 생산하는 유전자가 무작위 발현되도록 쥐의 뇌세포를 유전자 조작했다. 덕분에 각
뇌세포마다 독특한 색상으로 빛이 난다. 이 이미지는 해마 부위의 세포를 광학 현미경으로 촬영한 것이다.
2 해마의 치상회(齒狀回)를 따라 분포돼 있는 뉴런들은 기억의 저장에 필수적 역할을 한다. 하버드대학의 신경생물학자 제프 리히트먼 박사의 표현은 이랬다. “사실상 당신이 배우는 모든 것과 삶의 모든 에피소드들이 해마를 거쳐 갑니다.”
3 이미지 상단부의 대뇌겉질(대뇌피질)도 기억 저장에 관여한다. 또한 운동능력, 시각 등의 의식적 활동을 제어한다. 이 부위의 고해상도 3D 이미지 데이터를 다수 확보하면 뇌세포 상호간의 연결을 추적할 수 있다.



공상과학 작품 속 정신 이동

[1929] 세계, 육체, 악마/ J.D 버낼
미래학자인 저자는 이 책에서 ‘언젠가 인류는 육체를 버리고 영생을 얻게 될 것’이라고 예견했다. 심지어 유기체인 뇌세포도 합성물질로 대체될 것으로 내다봤다.

[1956] 도시와 별/ 아서 C. 클라크
10억년 뒤의 미래도시 디아스파(Diaspar). 이곳의 인간들은 유전자 정보의 형태로 중앙컴퓨터에 저장돼 있으며, 순번제로 인공 육체에 입력돼 영원히 환생을 거듭한다.

[1962] 휴머노이드의 창조/ 웨슬리 베리 (감독)
당신의 친구가 ‘정신 업로딩(mind uploading)’이 필요한 휴머노이드인지 알고 싶나? 그러면 새벽 4시경 로봇 신전 앞을 지켜라. 휴머노이드는 매일 그 시각에 인간의 정신이 정지되고 본부로 복귀한다.

[1966] 작은 소녀들은 뭐로 만들었지?/ 스타트렉 시즌1 7회
상사병에 걸린 엔터프라이즈호의 간호사가 약혼자를 찾고자 엑소Ⅲ 행성으로 텔레포트 된다. 하지만 약혼자는 동상에 걸린 뒤 자신의 정신을 안드로이드에 옮겨 놓은 광기어린 과학자로 변해있다.




[1968] 2001 스페이스 오디세이/ 스탠리 큐브릭 (감독)
시공간을 헤매던 우주탐사선 디스커버리호의 선장 데이비드 보우만이 빛에 둘러싸인 태아로 변한다. 이 영화의 시나리오는 아더 C. 클라크의 동명 소설에 언급된 정신 업로딩이라는 개념을 참조했다.




[1982] 트론/ 스트븐 리스버거 (감독)
주인공이 만든 비디오게임 속 적(敵)이 현실 세계로 튀어나온다. 게다가 실험용 레이저로 주인공을 메인프레임 속에 디지타이징하려고 시도한다.

[1989] 정신분열증 환자/ 스타트렉 시즌2 6회
불치병에 걸린 천재 과학자가 콧노래를 불러서 엔터프라이즈호의 안드로이드인 데이터 소령의 관심을 끈다. 그리고 자신의 정신을 소령의 뇌에 업로드한 뒤 함선으로 돌아가 자신이 죽었다고 보고한다.

[1992] 프리잭/ 제프 머피 (감독)
갑부들이 타임머신을 이용해 과거로 용병을 보내 건강한 신체를 가진 사람을 납치한다. 자신의 정신을 그 사람에게 업로드해 젊고 활기찬 삶을 영위하기 위함이다.




[2000] 6번째 날/ 로저 스포티스우드 (감독)
한 기업이 안구 스캔을 통해 기억과 정신을 복제, 클론에게 옮겨 심을 수 있는 기술을 비밀리에 확보한다. 어느 날 집으로 돌아온 주인공은 자신의 클론이 가족들과 생일파티를 하고 있는 광경을 목격한다.

[2004] 배틀스타 갤럭티카
사일런(Cylons)이라 불리는 인공두뇌 시민들에게 전사(戰死)는 대수롭지 않은 일이다. 평상시 백업해 놓은 뇌를 새로운 몸에 이식하면 그만이기 때문이다.

[2009] 아바타/ 제임스 카메론(감독)
하반신이 마비된 군인이 특수기계를 이용, 유전자 기술로 만든 외계인의 몸속에 자신의 의식을 주입해 원격조종한다. 이 외계인들은 ‘샤헤일루’라는 교감을 통해 동물과 생각을 공유한다.


[2014] 트랜센던스/ 월리 피스터 (감독)
인공지능 슈퍼컴퓨터 ‘트랜센던스’의 완성을 앞둔 천재과학자가 과학기술 혐오단체의 공격을 받는다. 숨지기 직전 컴퓨터에 정신이 업로드 된 그는 힘에 굶주린 과대망상증 환자로 변한다.



트랜스휴머니스트(Transhumanist) 과학과 기술을 이용해 인간의 육체적·정신적 능력을 개선하려는 지적·문화적 운동인 트랜스휴머니즘(Transhumanism)을 추종하는 사람들. 이들은 인간이 태생적 한계를 극복해 더 확장된 능력을 지닌 존재로 변형될 수 있다고 믿는다.
시냅스 (synapse) 한 뉴런과 다른 뉴런의 접합 부위. 정확히 말해 한 뉴런의 축삭돌기와 다른 뉴런의 수상돌기가 연결되는 부위.
워킹 데스크 (walking desk) 책상과 트레드밀(러닝머신)을 결합한 기기. 운동을 하면서 업무를 볼 수 있다.
디지타이징 (digitizing) 아날로그 데이터를 디지털화 하는 것.
 

전세계적으로 진행되고 있는 블록체인을 응용한 [온라인 법정]의 죄와벌 게임

[블록체인을 응용한 전세계 온라인 법정제도 시스템] 지금 전세계는 팬데믹과 자연재해, 전쟁으로 인해서 각국이 엄청난 국고의 지출과 비용을 소비하고 있기 때문에, 불필요한 지출과 비용을

thesupercomputer.tistory.com

 

https://archive.md/xCSAO

 

 

* 미래에 왜 우리는 필요없는 존재가 될것인가

 

 

 
 
그러한 그가 최근에 과학기술의 발전에 대하여 크게 우려하는 태도를 공개적으로 표명하기 시작하였다. 그리하여, 친(親)기술주의 잡지로 유명한 Wired에 발표된 이 긴 글에서 그는 거의 묵시록(默示錄)적인 목소리로 컴퓨터 기술의 급속한 발전으로 거의 필연적으로 닥쳐올 재앙에 대해 경고하고 있다. 과학기술에 대한 아마추어적 지식에 토대를 둔 것도 아니고, 이른바 러다이트(기계혐오자)의 입장도 아닌, 오늘날의 첨단 기술세계의 핵심 멤버로부터 나온 것이기 때문에 이 경고는 이 글이 발표된 이후 미국뿐만 아니라 세계 각처에서 큰 파문을 일으켰고, 그 파문은 지금도 계속되고 있다. 예를 들어, 독일의 주요 일간신문〈프랑크푸르터 알게마이네 차이퉁〉지는 이 글의 전문을 일간지의 지면에 번역하여 실음으로써 이 글의 메시지의 중요성을 인정했고, 영국에서 발행되는 세계적 환경잡지《에콜로지스트》2000년 10월호는 빌 조이와의 대담 기사를 중심으로 이 문제를 특집으로 다루고 있다.
 
뿐만 아니라 이 글이 발표된 직후 미국 스탠포드 대학에서 열린 ‘기술의 장래와 인간의 운명’에 관한 포럼에서는 빌 조이가 참석한 자리에서 그의 견해를 둘러싸고 1,000여명의 청중이 운집한 가운데 치열한 논쟁이 벌어졌다.
생명공학을 비롯한 첨단기술들이 인류사회에 던져주고 있는 엄청난 도전을 고려할 때, 이러한 반응은 당연한 것으로 보인다. 오늘날 인류의 운명이 급속도로 걷잡을 수 없이 벼랑으로 내몰리고 있는 상황에서 수많은 사람들은 과학기술의 발전이 우리의 구세주가 될 것이라는 막연한 기대를 가지고 살고 있다. 그러나, 우리가 믿는 과학기술이 구세주가 아니라 인간으로서의 우리 자신의 존재를 뿌리로부터 파괴하는 ‘악마의 기술’이라면 어떻게 될 것인가? 빌 조이는 그렇게 될 가능성이 매우 높다고 경고하고 있는 것이다.
 
인류의 절멸은 아닐지라도 인간다운 세계를 근원적으로 파괴할지도 모르는 이 끔찍한 재앙을 앞에 두고 이런 차원의 문제에 대해서는 철저히 무책임하고 소극적인 태도로 일관하고 있는 한국의 언론, 문화 풍토에서 그래도 기술사회의 심화, 확대에 고뇌를 느끼고 있는 사람들이 다소나마 갈증을 푸는 데 도움이 되고자 우리는 이 글의 전문을 옮겨 실으면서, 동시에 이에 대한 몇몇 분들의 논평을 얻어 싣는다.
* * *
 
 
내가 새로운 기술의 창조에 관여하기 시작했을 순간부터 윤리적인 문제는 줄곧 내 관심사였지만, 1998년 가을에 비로소 나는 21세기에 우리가 직면할 위험이 얼마나 엄청난 것인가에 대하여 크게 우려하게 되었다. 나는 내가 그러한 불안을 느끼게 된 날을 기억할 수 있는데, 그것은 내가 맹인용 읽기 기계와 그밖의 많은 놀랄 만한 기술을 만들어낸 저명한 발명가 레이 커즈웨일을 만난 날이었다.
레이와 나는 ‘죠지 길더즈 텔레코즘’ 회의에 둘다 연사로 참석했었는데, 회의가 끝난 뒤 나는 우연히 호텔 바에서 그와 마주쳤다. 나는 인간의 의식에 관해 집중적인 연구를 수행하고 있는 버클리 대학의 철학자 죤 서얼과 함께 앉아 있었다. 우리가 얘기를 나누고 있는 동안 레이가 다가왔고, 그래서 정담(鼎談)이 시작되었는데, 그때 우리가 나눈 화제는 지금까지 내 뇌리를 떠나지 않고 있다.
레이는 테크놀로지의 발전속도가 가속화될 것이며, 우리는 로봇이 되거나 로봇과 뒤섞이거나 아니면 그 비슷한 것이 될 것이라고 했고, 죤은 로봇이 의식이 있는 존재가 아니기 때문에 그런 일은 일어나지 않을 것이라고 반박했다.
 
전에는 그런 얘기를 들을 때 나는 늘 지각능력이 있는 로봇이란 공상과학 소설에서나 등장하는 것이라고 느꼈었다. 그러나 지금, 나는 내가 존경하는 어떤 사람으로부터 그러한 로봇이 가까운 미래에 실제로 가능하다는 강력한 주장을 듣고 있었다. 미래를 상상하고 창조하는 레이의 능력은 이미 증명되었다는 사실을 생각할 때, 그 주장이 근거 없는 것이라고는 할 수 없었고, 따라서 그것은 내게 큰 충격이었다. 나는 이미 유전자공학과 나노테크놀로지와 같은 새로운 기술이 우리에게 세계를 개조할 수 있는 힘을 제공하고 있다는 것은 알고 있었다. 그러나 똑똑한 로봇이 실제로 출현할 날이 임박했다는 시나리오는 놀라운 뉴스였다.
 
새로운 기술적 혁신의 소식에 우리는 무감각해지기 쉽다. 우리는 거의 매일 모종의 기술적 또는 과학적 진보에 관한 뉴스를 듣고 있기 때문이다. 그렇지만, 그날 내가 들은 것은 보통 들을 수 있는 예언이 아니었다. 그 호텔 바에서 레이는 곧 출간될 자신의 책《정신적 기계의 시대》의 사전 인쇄본의 일부를 내게 주었는데, 거기에는 그가 예견하는 하나의 유토피아인간이 로봇기술과 하나가 됨으로써 거의 영생불사를 누리게 되는 ― 의 윤곽이 그려져 있었다. 그걸 읽으면서 나는 더욱 불안해질 뿐이었다. 나는 그가 닥쳐올 위험에 대하여, 이 길을 따라갈 때 현실화될 수 있는 나쁜 결과에 대하여 좀더 깊이있는 이해력을 가져야 한다고 생각했다.
 
나는 역(逆)유토피아의 세계를 그려보이고 있는 한 구절 때문에 심란스러워졌다.
새로운 러다이트(기계혐오자)의 도전
컴퓨터 과학자들이 인간보다도 모든 일을 더 유능하게 해낼 수 있는 지능적인 기계들을 개발하는 데 성공했다고 생각해보자. 그럴 경우 모든 일은 기계들의 방대하고 고도로 조직된 시스템에 의해 수행될 것이며, 어떠한 인간의 노력도 불필요하게 될 것이다. 
기계들이 자기결정을 하도록 허용된다면, 우리는 그 결과를 짐작도 할 수 없다. 왜냐하면 그러한 기계들이 어떻게 행동할 것인지 추측하는 것이 불가능하기 때문이다.
우리는 다만 인류의 운명이 기계에 좌우될 것이라는 사실을 지적할 수 있을 뿐이다. 인류가 모든 힘을 기계들에 넘겨줄 만큼 어리석지 않다고 주장하는 사람이 있을지 모른다. 그러나 우리는 인류가 자발적으로 자기의 힘을 기계들에 넘겨주는 일도, 기계들이 의도적으로 권력을 장악하려고 기도하는 일도 없을 것임을 말하고자 한다.
 
우리가 말하고자 하는 것은 인류가 기계들에 의존하는 입장으로 쉽사리 자기를 내맡겨둠으로써 결국 기계가 내리는 모든 결정을 받아들이는 것밖에 아무런 선택의 여지가 없는 상황으로 가게 될 것이라는 것이다. 사회와 사회가 직면한 문제들이 점점더 복잡해지고 기계들이 점점더 총명해짐에 따라 사람들은 기계로 하여금 모든 결정을 내리도록 허용할 것이다. 왜냐하면 기계가 내리는 결정들은 사람이 내리는 결정보다 더 나은 결과를 가져올 것이기 때문이다. 그리하여 마침내 체제를 움직이는 데 필요한 결정들이 너무나 복잡한 것이 되어 사람의 능력으로는 더이상 총명한 결정을 내릴 수 없는 단계가 올지도 모른다. 그러한 단계에서는 기계들이 통제력을 장악하게 될 것이다. 그렇게 되면, 사람들에게는 기계의 스위치를 꺼버릴 능력도 없을 것이다. 왜냐하면 그들은 너무나 기계에 의존적이어서 기계의 스위치를 끈다는 것은 자살행위가 될 것이기 때문이다.
 
다른 한편으로, 기계에 대한 인간의 통제가 유지되는 게 가능할지도 모른다. 그런 경우 인간은 자동차나 개인 컴퓨터 같은 자기 소유의 사적 기계들에 대한 통제력을 가지고 있을지는 모르지만, 대규모의 기계시스템에 대한 통제는 극소수의 엘리트의 손아귀에 장악되어 있을 것이다. 그런 상황은 오늘날과 동일하지만, 두가지 차이점이 있을 것이다.
기술의 진보 덕분에 엘리트는 대중에 대하여 훨씬 더 큰 통제력을 행사할 것이며, 인간의 노동이 더이상 필요하지 않게 될 것이기 때문에 대중은 잉여의 존재, 체제에 대하여 쓸모없는 부담이 될 것이라는 것이다.
 
엘리트가 무자비하다면 그들은 간단히 대다수 인류를 제거해버릴지도 모른다. 엘리트가 인도적이라면 그들은 선전술이나 심리학적 또는 생물학적 기술을 이용하여 출산율을 감소시켜 대다수 인류의 절멸이 이루어지게 하고, 그 결과 세상이 엘리트의 독차지가 되게 할지도 모른다.
 
아니면, 엘리트가 부드러운 마음을 가진 자유주의자들이라면, 그들은 대다수 인류를 지켜주는 선량한 목자의 역할을 하려고 할지 모른다.
그래서 그들은 모든 사람이 육체적 욕구를 만족시키고, 모든 아이들이 심리적으로 위생적인 조건에서 길러지고, 누구든 건강한 취미를 갖고 분주한 생활을 누리며, 그리고 누군가 불만을 느끼는 사람이 있다면 당장 그의 ‘문제’가 치유되도록 마음을 쓸 것이다.
 
물론, 그런 상황에서 삶은 목적 없는 것이 되고, 사람들은 권력에 대한 욕망을 제거하거나 또는 그러한 욕망을 무해한 취미활동으로 ‘승화’시키도록 생물학적 내지 심리학적 조작을 당할 것이다. 이렇게 조작된 인간이 그러한 사회에서 행복할지는 모르지만, 그러나 그들은 분명히 자유로운 존재는 아닐 것이다. 그들은 가축이나 다름없는 지위로 떨어져 있을 것이다.
 
사람들은 책을 읽다가, 페이지를 넘기기 전까지는 이 구절의 필자가 시오도어 카진스키, 즉 유나바머(Unabomber)라는 것을 모를 것이다. 나는 카진스키를 변호하고 싶지 않다. 17년에 걸친 그의 폭탄 테러행위 때문에 세 사람이 죽었고, 많은 사람들이 부상을 당했다. 카진스키의 폭탄 하나는 내 친구이자 우리 시대의 가장 총명하고 비젼있는 컴퓨터 과학자인 데이비드 겔렌터에게 심각한 상해를 입혔다. 많은 내 동료들처럼, 나 자신도 유나바머의 다음번 목표일 가능성이 크다고 느꼈다.
카진스키의 행위는 살인적인 것이었고, 내가 보기에는 범죄적일 만큼 미친 짓이었다. 그가 러다이트라는 것은 명백하다. 그러나 이렇게 말한다고 해서 그의 논리가 무시할 수 있는 것이 되는 것은 아니다. 나로서는 고통스럽지만, 이 구절에 담긴 논리가 갖는 어느 정도의 타당성을 인정하지 않을 수 없었다.
 
카진스키는 과학기술의 뜻하지 아니한 결과, 즉 “잘못될 가능성이 있는 것은 잘못된다”라는 머피의 법칙에 명백히 관계되어 있는 문제를 묘사하고 있다.
항생제의 과잉 사용은 그러한 문제 중 지금까지 가장 큰 문제를 일으켰다. 즉, 항생제에 저항하는 보다 위험한 박테리아가 나타난 것이다. 그와 비슷한 사례는 DDT를 사용하여 말라리아 모기를 박멸하려는 기도에서도 발생하였다. 말라리아 기생충들이 마찬가지로 그 약품에 저항하는 유전자를 획득하게 된 것이다.
이러한 뜻밖의 일들이 일어나는 원인은 자명한 것으로 생각된다. 관계된 일들은 시스템을 구성하고 있는 부분들 사이에 상호작용이 끊임없이 일어나는 복합적인 시스템들이기 때문이다. 하나의 시스템에 어떤 변화가 생길 때 그 변화는 예측하기 어려운 방식으로 전체 시스템에 큰 영향을 끼치는 것이다. 이것은 인간행동이 관계되어 있을 때 특히 그렇다고 할 수 있다.
 
나는《정신적 기계》에 인용되어 있는 카진스키의 글을 친구들에게 보여주기 시작했다. 나는 그들에게 커즈웨일의 책을 주고, 그 인용문을 읽게 한 다음, 그 구절의 필자가 누구인지를 알았을 때 그들이 어떤 반응을 보이는지를 관찰했다.
같은 시기에, 나는 한스 모라벡의 책《로봇 ― 단순한 기계로부터 초월적인 정신으로》를 발견했다. 모라벡은 로봇공학 분야에서 선구자의 한 사람이며, 카네기 멜런 대학에 있는 세계 최대규모의 로봇기술 연구프로그램의 창설자였다. 그의 책《로봇》은 내 친구들을 테스트하는 데 추가적인 재료, 즉 카진스키의 논리를 뒷받침하는 재료가 되었다. 예를 들면,
단기적 결과(초기 2000년대)
생물학적 종(種)이 보다 우월한 경쟁자들과 조우하여 살아남는 경우란 거의 없다. 천만년 전, 남북 아메리카는 가라앉은 파나마 지협(地峽)으로 분리되었다. 남아메리카는 오늘의 오스트레일리아처럼 포유류 유대(有袋)동물들의 땅이었다. 남북 아메리카를 이어주는 지협이 융기했을 때, 좀더 효율적인 신진대사와 생식 및 신경체계를 갖춘 북쪽의 태생동물들이 남쪽의 모든 유대동물들을 제거하고 그 자리를 차지하는 데에는 불과 수천년밖에 걸리지 않았다.
완전히 자유로운 시장에서라면, 북아메리카의 태생동물들이 남아메리카의 유대동물들에게 영향을 끼친 것처럼(또, 인간이 수많은 생물종들에게 영향을 끼친 것처럼) 우월한 로봇들은 틀림없이 인간들에게 영향을 끼칠 것이다. 로봇 산업들은 자기들끼리 재료, 에너지, 공간을 차지하기 위해 치열한 경쟁을 할 것이며, 마침내는 그러한 것들의 비용이 인간이 미칠 수 있는 한계를 넘어서버릴 것이다. 삶의 필수품을 더이상 조달할 수 없는 결과로 생물학적 인간은 결국 엄청난 압박을 받아 생존 자체가 불가능하게 될 것이다.
그러나, 얼마간의 숨쉴 만한 공간은 있을지 모르는데, 그것은 우리가 완전한 자유시장 속에 살고 있지 않기 때문이다. 정부는 특히 조세제도로써 사람들에게 비시장적 행동을 강요한다. 정부에 의한 이러한 강압적 시책이 현명하게 행사된다면, 인간이 아마도 로봇을 이용하여 오랫동안 높은 수준의 삶을 영위하는 것이 가능할지 모른다.
모라벡은 계속하여 21세기에 우리가 해야 할 주된 과업이 적절한 법률을 통해서 “로봇 산업들로부터 지속적인 협력을 확보하는” 것이라고 말하고, “
 
나는 이제 내 친구 대니 힐리스에게 얘기를 해야 할 때라고 결정했다. 대니는 매우 강력한 슈퍼컴퓨터를 만든 ‘씽킹머신사(Thinking Machines Corporation)’의 공동설립자로서 유명하게 되었다. ‘선 마이크로시스템스’의 대표 과학자라는 현재의 직명에도 불구하고, 나는 과학자라기보다는 컴퓨터 건축가라 할 수 있다. 그리고 나는 정보 및 물리과학에 있어서는 내가 알고 있는 어느 누구보다도 대니의 지식을 존경한다. 대니는 또한 장기적으로 생각하는 미래론자로서 높이 평가받고 있다. 4년 전, 그는 오늘날 우리사회가 너무나 단기적인 시각에 갇혀 있다는 것에 주의를 환기하기 위한 시도로서 1만년간 지속되도록 설계된 시계를 만드는 일을 시작하였다.
그래서, 나는 대니와 그의 아내 패티와 함께 식사를 하려는 목적으로 로스엔젤레스로 날아갔다. 나는 이제는 내게 익숙해진 과정을 되밟아, 나를 혼란스럽게 만들었던 아이디어들과 구절들을 대니에게 전해주었다. 대니의 대답은 ― 특히, 인간이 로봇과 뒤섞여버릴 것이라는 커즈웨일의 시나리오에 대해서 ― 신속했고, 나를 퍽 놀라게 했다. 그의 말은 간단했다. 변화는 점진적으로 올 것이고, 우리는 그 변화에 익숙해질 것이라는 것이었다.
그러나, 내가 전적으로 놀란 것은 아닌지 모른다. 나는 커즈웨일의 책에 대니의 말이 인용되어 있는 것을 보았던 것이다. 이미 어디선가 대니는 “나는 누구보다도 내 몸을 사랑한다. 그러나 내가 실리콘으로 된 몸으로 200세까지 살 수 있다면, 그걸 받아들일 것이다”라고 했던 것이다. 나와는 달리, 그는 이러한 과정과 그에 따르는 위험에 대하여 별로 불안이 없는 듯하였다.
 
커즈웨일과 카진스키와 모라벡에 관하여 말하고 생각하는 동안 나는 갑자기 거의 20년 전에 읽었던 소설 ― 프랭크 허버트의《하얀 페스트》― 이 기억났다. 그 소설에는 한 분자생물학자가 자신의 가족이 살해된 것에 대하여 보복하려는 과정에서 미친 인간이 되어가는 모습이 그려져 있다. 그는 복수를 위하여 넓은 범위에 걸치면서 동시에 선택적으로 사람을 죽이는 몹시 전염성이 강한 새로운 질병을 만들어 퍼뜨린다. 나는 또한《스타 트랙》의 인물, 즉 강한 파괴적 혈통을 가진, 부분적으로 로봇생물인 보르그를 떠올렸다. 보르그와 같은 유형의 재앙은 이미 공상과학 소설에서는 단골소재이다. 그런데도 왜 나는 좀더 일찍 로봇으로 인한 그러한 디스토피아의 문제에 대하여 관심을 가지지 않았던가? 왜 다른 사람들은 이러한 악몽의 시나리오에 대하여 좀더 관심을 가지지 않았던가?
 
그에 대한 부분적인 대답은 새로운 것에 대한 우리의 태도에 있다. 즉, 새로운 것에 대하여 쉽게 친숙해지고, 질문없이 받아들이는 우리의 편견 말이다. 새로운 과학적 발견이 거의 일상화된 상황에서의 삶에 익숙해진 나머지, 우리는 21세기의 압도적인 과학기술들 ― 로봇공학, 유전자공학, 나노테크놀로지 ― 은 지금까지의 과학기술과는 근본적으로 다른 위협을 제기하고 있다는 사실을 깨닫지 못하고 있다. 그중에서, 로봇과 인공 유기체와 극미로봇(nanobots)은 특히 위험한 요소를 가지고 있는데, 그것은 그것들이 자기복제를 할 수 있다는 점이다. 폭탄 한개는 오직 한번만 터질 수 있다. 그러나, 하나의 로봇은 여러개의 로봇이 될 수 있고, 빠른 속도로 통제 불가능하게 된다.
 
지난 25년 동안 내 작업의 대부분은 컴퓨터 네트워킹에 관한 것이었는데, 컴퓨터 네트워크에서는 메시지들을 보내고 받는 일이 통제받지 않는 복제의 기회를 만들어낸다. 그러나, 컴퓨터 내에서나 컴퓨터 네트워크에서의 복제는 성가신 일일 수는 있지만, 최악의 경우라 해도 그것은 기계를 작동불능이 되게 하거나 네트워크 또는 네트워크 서비스를 중단시킬 뿐이다. 하지만, 이들 보다 새로운 테크놀로지에 있어서의 통제되지 않은 자기복제는 좀더 큰 위험, 즉 물리적 세계에 심각한 손상을 입히는 위험이 되는 것이다.
 
이러한 새로운 기술들은 또한 각기 미증유의 장밋빛 미래를 약속한다. 커즈웨일은 자신의 로봇에서 거의 영생불사의 비젼을 보고 있고, 유전자공학은 당장의 치유는 아니라 해도 대부분의 질병에 대한 처치를 곧 제공할지 모르며, 나노테크놀로지에 기초한 의학은 보다 많은 질병에 대응할 수 있을 것이다. 그 기술들은 결합된 힘으로 우리의 평균수명을 연장하고, 우리의 삶의 질을 개선시킬 수 있을 것이다. 그러나, 이러한 기술 모두에서, 소소한, 개별적으로는 뜻있는 발전의 연속적인 과정은 엄청난 힘의 집적으로 이어지고, 거기에 수반하여 엄청난 위험을 초래할 수 있는 것이다.
20세기 기술은 무엇이 달랐던가? 말할것도 없이, 대량살상 무기들 ― 핵, 생물 및 화학무기 ― 의 근간에 있는 기술들은 강력한 것이었고, 그 무기들은 엄청난 위협이 되었다. 그러나 핵무기를 개발하기 위해서는 적어도 잠정적으로는 희귀한 ― 효율성이 부족한 ― 원료물질과 고도로 보호된 정보를 확보하는 것이 필요하였다. 생물 및 화학무기 프로그램은 또한 대규모의 활동을 요하는 경향이 있었다.
 
21세기의 테크놀로지 ― 유전공학, 나노테크놀로지, 로봇공학 ― 는 너무도 강력한 힘을 가진 것이기 때문에 그것들은 전체적으로 새로운 종류의 사고(事故)와 오용을 낳을 수 있다. 가장 위험스러운 것은, 역사상 최초로, 이러한 끔찍한 결과를 초래할 수 있는 기술들이 개인과 소그룹들의 손아귀에 쉽게 들어간다는 점이다. 이들 기술은 대규모 시설이나 희귀한 원료를 필요로 하지 않을 것이다. 그것들을 사용하는 데 필요한 것은 오직 지식뿐일 것이다.
따라서 우리에게 가능한 현실은 단순히 대량파괴의 무기가 아니라 지식에 기반한 대량파괴이며, 이것은 자기복제의 힘으로 엄청나게 증폭된 파괴력을 가질 것이다.
나는 우리가 극단적인 악이 저질러질 수 있는 지점으로 나아가고 있다고 하는 것이 조금도 과장이 아니라고 생각한다. 종래의 대량파괴 무기들이 국민국가의 통제하에 있었던 수준을 넘어 이제 새로운 기술들이 극단적인 개인들의 예측할 수 없는 끔찍한 행동을 뒷받침하는 힘이 될 수 있는 것이다.
그동안 내가 컴퓨터에 관계하여 일해온 방식을 통하여 나는 내가 이러한 종류의 문제에 직면할 것이라는 것을 생각해보지 못했다.
 
나의 삶은 질문을 하고 대답을 찾는 깊은 욕구로 움직여왔다. 세살 때 이미 나는 글을 읽었고, 그래서 아버지는 나를 초등학교에 넣었다. 나는 교장선생님의 무릎에 앉아 이야기를 하나 읽어드렸다. 나는 학교를 일찍 시작했고, 월반을 하고, 책속으로 빠져들어갔다. 나는 믿을 수 없을 만큼 배우고 싶은 의욕에 넘쳐 있었다. 나는 무수한 질문을 했고, 흔히 어른들을 난처하게 만들었다.
10대 소년으로서 나는 과학과 기술에 굉장히 흥미를 느꼈다. 나는 햄 라디오 오퍼레이터가 되고 싶었으나 장비를 구입하는 데 필요한 돈이 없었다. 햄 라디오는 그 당시의 인터넷이었다. 즉, 쉽게 중독이 되고, 혼자 외톨이로 하는 작업이었다. 돈 문제를 떠나서, 어머니가 개입하였다. 나는 햄이 되어서는 안되었다. 나는 이미 충분히 비사회적이었다.
나는 가까운 친구들은 많지 않았는지 모르지만, 아이디어는 넘쳐났다. 고등학교에 들어가기 전에 이미 나는 공상과학 소설의 대가들을 발견했다. 특히 헤인레인과 아시모프의 소설들이 지금 기억난다. 나는 우주여행에 대한 묘사에 매료당했고, 별들을 보기 위해 망원경을 갖고 싶었다. 망원경을 살 돈이 없었기 때문에 나는 도서관에서 망원경 제작법에 관한 책들이 있는지를 점검하여 그것들을 읽었다. 상상 속에서 나는 하늘 높이 날아올랐다.
목요일 저녁마다 부모님은 보올링을 하러 나가시고, 우리 아이들끼리만 집에 남게 되었다. 목요일 밤은 진 로든베리가 쓴《스타 트랙》의 원작이 방영되는 시간이었다. 그 프로그램은 내게 매우 인상적이었다. 나는 서구 스타일의 굉장한 영웅들과 모험으로 찬 우주공간에 인간의 미래가 있다는 그 프로그램의 메시지를 받아들였다. 닥쳐올 세기에 대한 로든베리의 비젼은 강한 도덕적 가치를 품고 있었다. 즉, 기술적으로 덜 진보된 문명들의 발전에 간섭을 하지 않는다는 규범에 그러한 가치가 구현되어 있었다. 이것은 내게 엄청난 매력을 주었다. 로봇이 아니라 윤리적 인간이 미래를 지배하는 로든베리의 비젼은 내 꿈의 일부가 되었다.
 
나는 고등학교에서 수학에 뛰어났다. 미시간 대학 공학부 학생으로 입학했을 때 나는 수학 전공자들이 듣는 고급과정을 신청했다. 수학문제를 푸는 것은 흥미진진한 일이었다. 그러나 내가 컴퓨터를 발견했을 때 나는 그것이 훨씬 더 흥미로운 것이라고 생각했다. 한 문제를 풀기 위한 프로그램을 컴퓨터에 넣으면 컴퓨터는 재빨리 해답을 체크해주었다. 컴퓨터는 정오(正誤)와 진위(眞僞)에 대한 명백한 개념을 갖고 있었다. 내가 가진 생각이 올바른가? 컴퓨터가 내게 대답해줄 수 있었다. 이것은 너무도 매혹적이었다.
나는 운좋게도 초기 슈퍼컴퓨터의 프로그래밍 일을 할 수 있게 되었고, 복잡한 설계의 시뮬레이션에 있어서 큰 컴퓨터들이 보여주는 놀라운 능력을 발견하였다. 1970년대 중반에 캘리포니아 대학 버클리 분교의 대학원에 진학했을 때, 나는 밤늦게까지, 흔히 밤을 새워, 그 기계 속에서 새로운 세계를 만들어내는 일에 열중하기 시작했다.
미켈란젤로에 관한 전기소설《번민과 희열》에서 어빙 스톤은 미켈란젤로가 어떻게 돌에서 조상(彫像)을 풀어내놓을 수 있었는지를 생생하게 묘사하였다. 미켈란젤로는 그의 마음속에 있는 이미지를 돌에 새김으로써 “대리석을 감싸고 있는 주술(呪術)”을 깨트렸다. 그와 같은 방식으로, 내가 가장 희열을 느낀 순간에 컴퓨터 속에 내재된 소프트웨어가 저절로 나타났다. 내 마음속에서 일단 상상하기만 하면, 나는 그것이 풀려져나오기를 기다리면서 이미 거기 컴퓨터 속에 있었던 것처럼 느꼈다. 그것을 풀어주기 위하여, 즉 내 아이디어에 구체적인 형태를 부여하기 위하여 밤을 새우는 것은 내가 치러야 할 작은 희생이었다.
버클리에서의 몇년 뒤, 나는 내가 쓴 몇몇 소프트웨어를 ― 교육용 파스칼 시스템, 유닉스 유틸리티, vi라고 불린 본문 편집기(놀랍게도, 20년이 지난 지금도 널리 사용되고 있는) ― 비슷하게 작은 PDP-11과 VAX 미니컴퓨터를 가진 사람들에게 내보내기 시작했다. 나의 이런 모험은 마침내 버클리판 유닉스 운영체계로 발전하였고, 이것은 개인적으로 내게 ‘성공의 재앙’이 되었다. 너무나 많은 사람들이 그것을 원했기 때문에 나는 박사학위를 끝내지 못했다. 그 대신 나는 다르파(Darpa)에서 일자리를 얻어 버클리 유닉스를 인터넷에 올리고, 그것을 신뢰할 수 있는 것이 되게 하고, 대규모 연구용으로도 쓸 수 있도록 개선하는 일을 했다. 이것은 매우 재미있고, 충분한 보상을 받는 일이었다. 솔직히 말해서, 나는 그때 내가 하는 일에서 로봇에 관한 문제는 전혀 인식하지 못했다.
여전히, 1980년대 초에 이르기까지, 나는 내 일에 깊이 빠져들고 있었다. 유닉스는 매우 성공적이었고, 내 작은 프로젝트 하나 덕분에 나는 돈과 몇몇 스태프를 갖게 되었다. 그러나 버클리에서의 문제는 늘 돈보다도 사무실 공간이었다. 그래서 ‘선 마이크로시스템스’의 공동 창설자들이 나타났을 때, 나는 곧장 그들과 합류하였다. ‘선’사에서 일터와 내 개인 컴퓨터 앞에서의 작업은 밤늦은 시간까지 계속되기 일쑤였고, 나는 고급 마이크로프로세서 기술과 자바(Java)와 지니(Jini)와 같은 인터넷 기술을 창조해내는 일에 참여하는 것을 즐겼다.
 
이 모든 것으로부터, 내가 러다이트가 아니라는 것은 분명해졌다고 나는 믿는다. 나는 언제나 진리에 대한 과학적 추구의 가치를 굳게 믿고, 물질적 진보를 가져오는 데 있어서의 위대한 공학의 힘을 강력하게 믿어왔다. 산업혁명은 지난 200년간 모든 사람들의 생활을 측량할 수 없이 개선시켜주었다. 나는 늘 전문가로서의 내 생애가 진정한 삶의 문제를 가치있게 해결하는 데 기여하게 되기를 바랐다.
나는 실망해본 적이 없다. 내 일은 내가 희망했던 것보다 더 영향을 미쳤고, 내가 이성적으로 기대할 수 있는 것보다 더 널리 사용되어왔다. 나는 지난 20년간 어떻게 하면 내가 바라는 만큼 컴퓨터를 신뢰할 수 있고 사용하기 간편한 것으로 만들 수 있는가를 궁리하면서 보내왔다. 몇몇 성공에도 불구하고, 아직 남은 문제들은 더욱 큰 도전을 요구하는 것으로 보인다.
그러나, 무기연구와 같은 분야에서 기술의 결과를 둘러싼 도덕적 딜레마가 있다는 것을 의식하고 있으면서도, 나는 내가 그러한 문제를 내 자신이 하는 일에서, 적어도 당분간, 마주칠 것이라고는 생각하지 않았다.
아마도 변화의 와중에 있는 동안에는 보다 큰 국면을 본다는 것은 어려운지 모른다. 발견과 혁신의 희열에 잠겨 있는 동안에 자신들이 만들어낸 것들의 결과를 이해하지 못한다는 것은 과학자들과 기술자들의 공통한 결함인 것으로 보인다. 우리는 오랫동안 무엇보다 ― 과학적 추구의 본성인 ― 알고자 하는 욕망에 지배되어, 보다 새롭고 보다 강력한 기술들이 그것 자체의 내재적 논리에 따라 통제불능으로 발전할 수 있다는 사실을 생각해보지 않았다.
 
나는 오래 전부터 정보기술에서의 진보가 컴퓨터 과학자나 컴퓨터 건축가 또는 전기공학자들이 아니라 물리과학자들의 작업으로부터 나온다는 것을 인식하고 있었다. 1980년대 초에 물리학자 스티븐 울프램과 브로슬 해슬래처의 소개로 나는 카오스 이론과 비선형 체계를 알게 되었다. 1990년대에 나는 복잡계에 대한 지식을 대니 힐스, 생물학자 스튜어트 카우프먼, 노벨상 수상 물리학자 머레이 겔-먼, 그밖의 사람들과의 대화를 통해서 얻었다. 가장 최근에는, 해슬래처와 전기공학자이자 고안 물리학자인 마크 리드가 분자전자공학의 엄청난 가능성에 대해 내가 들여다볼 수 있게 해주었다.
세개의 마이크로프로세서 구조 ― SPARC, picoJAVA, 그리고 MAJC ― 의 공동 설계자로서, 또 그것들에 대한 몇몇 실행기술의 설계자로서, 나는 무어(Moore)의 법칙에 대해 깊이있는 직접적 이해를 갖게 되었다. 몇십년 동안 무어의 법칙은 반도체 기술이 지수함수적 속도로 발전할 것을 정확히 예측해왔다. 작년까지 나는 무어의 법칙이 예측하는 발전의 속도는 대충 2010년까지만 계속될지 모른다고 믿었다. 그때쯤이면 부분적으로 물리적 한계에 도달하기 시작할 것이기 때문이다. 새로운 기술이 때늦지 않게 나타나서 지금까지와 같은 성장을 계속 가능하게 해줄 것인지 내게는 불투명했던 것이다.
 
그러나, 최근의 급속하고 근본적인 분자전자공학상의 진보 ― 기존의 트랜지스터를 개별 원자와 분자가 대체하는 ― 로 말미암아, 또 그에 관련된 나노테크놀로지들로 말미암아, 우리는 앞으로 30년 이상 무어의 법칙이 예견하는 속도 이상을 기대할 수 있게 되었다. 2030년이 되면, 우리는 오늘날의 개인용 컴퓨터보다도 백만배 이상의 강력한 성능을 가진 기계를 가질 가능성이 크다. 그렇게 되면, 커즈웨일과 모라벡의 꿈은 실제로 충분히 실현가능하게 되는 것이다.
이러한 엄청난 힘을 가진 컴퓨터가 진보된 물리과학과 더욱 새롭고 깊어진 유전학과 결합될 때, 세계를 엄청나게 변화시킬 힘이 마구 풀려져 나올 것이다. 이와 같은 결합은 좋든 나쁘든 세계를 완전히 바꾸어놓을 수 있는 기회를 열어줄 것이다. 자연세계 속에 국한되어 있던 복제와 진화의 과정이 인간의 손으로 좌지우지할 수 있는 영역이 되려고 하는 것이다.
소프트웨어와 마이크로프로세서를 설계하는 과정에서, 나는 내가 지능을 가진 기계를 설계하고 있다는 느낌을 가져본 적이 없다. 소프트웨어와 하드웨어는 너무도 허약하고, 기계가 ‘생각’을 할 수 있는 능력은 명백히 없기 때문에 하나의 가능성으로서도 이것은 늘 매우 먼 장래의 일로 여겨졌다.
그러나 지금, 30년 내에 인간 수준의 능력을 가진 컴퓨터가 전망되는 것과 함께, 새로운 생각이 어쩔 수 없이 든다. 지금 내가 하는 일은 우리의 종(種)을 대체할지도 모르는 테크놀로지를 가능하게 하는 도구를 만드는 일이 아닐까? 이걸 어떻게 받아들여야 하는가? 내 마음은 몹시 편치 않다. 믿을 만한 소프트웨어 시스템을 만드는 데 전문가로서의 삶을 온통 바쳐온 내게, 그동안 사람들이 상상해온 것처럼 우리의 미래가 그렇게 밝은 것이 되지 않을 가능성이 매우 높게 보이는 것이다.
이 새로운 기술들의 엄청난 힘을 고려할 때, 우리는 그것들과 어떻게 하면 가장 잘 공존할 수 있을지를 물어야 하지 않을까? 그리고, 그러한 기술의 발전의 결과로 우리 자신의 절멸이 가능하다면, 우리는 마땅히 큰 조심성을 가지고 나아가야 하지 않을까?
 
로봇의 꿈은 첫째, 지능을 가진 기계가 우리를 위해 대신 일을 해주고, 그리하여 우리는 여가의 삶을 누리며 에덴으로 되돌아갈 수 있으리라는 것이다. 그러나《기계들 사이의 다윈》에서 죠지 다이슨은 경고하고 있다. “생명과 진화의 놀이에서 유희하는 연기자는 셋이다. 그것들은 인간과 자연과 기계이다. 나는 확고히 자연의 편에 서있지만, 자연은 내 생각에 기계의 편에 서있는 것 같다.” 모라벡도 동의하겠지만, 우리가 보아온 것처럼, 우리는 뛰어난 능력을 지닌 로봇 종(種)과의 조우에서 살아남지 못할지도 모른다.
그러한 지능을 가진 로봇이 얼마나 빨리 만들어질 수 있을까? 컴퓨터 기술의 발전속도로 볼 때 그것은 2030년까지는 가능할 것으로 보인다. 그리고, 지능을 가진 로봇이 일단 존재하게 되면, 로봇 종(種) ― 스스로 복제를 통해 진화를 하는 ― 이 출현하는 데는 작은 한걸음만 더 필요할 것이다.
 
로봇공학이 품어온 두번째 꿈은 우리가 점차로 로봇기술로써 우리 자신을 대체하여, 우리의 의식을 다운로드시킴으로써 거의 영생불사를 성취할 것이라는 것이다. 우리가 점차로 익숙하게 될 것이라고 대니 힐스가 말한 것이 바로 이 과정이며, 레이 커즈웨일이《정신적 기계》속에서 우아하게 묘사하고 있는 것이 바로 이러한 과정이다. (2월 8일자《와이어드》에 예시되어 있듯이, 컴퓨터 장치를 인간의 몸속에 심어놓는 행위 속에서 이미 이러한 과정의 전조를 우리는 보기 시작하고 있다.)
그러나, 우리가 우리의 테크놀로지 안으로 다운로드될 때, 그때부터 우리가 우리 자신이나 또는 심지어 인간으로 존재할 수 있는 가능성이 있을까? 로봇으로 존재한다는 것은 우리가 지금 이해하고 있는 것과 같은 의미의 인간적 존재는 아닐 것이고, 로봇이 어떠한 의미에서도 우리의 자식들이 될 수는 없을 것이며, 또 이 길을 따라갈 때 우리의 인간성이 상실되어버릴 것이라는 것은 내게 매우 가능성이 큰 것으로 보인다.
 
유전자공학은 살충제 사용을 줄이면서 수확량을 증대시킴으로써 농업을 혁명적으로 변화시킬 것이라고 약속한다. 그것은 수천종의 새로운 박테리아, 식물, 바이러스, 동물을 만들어내고, 복제를 통해서 자연적인 생식과정을 제거하거나 보완하며, 많은 질병에 대한 치료방법을 개발하여 우리의 수명과 삶의 질을 개선해줄 것이라고 약속하고, 또 그밖의 많은 것을 약속하고 있다. 우리는 이제 이러한 생물과학에 있어서의 심원한 변화들이 임박한 현실이 되었으며, 생명이란 무엇인가에 대한 우리의 모든 관념에 도전을 가할 것이라는 것을 확신을 가지고 알고 있다.
 
특히 인간복제와 같은 기술은 우리가 직면한 심각한 윤리적, 도덕적 문제에 대한 우리의 인식을 높여왔다. 예를 들어, 우리가 유전자공학의 힘을 이용하여 우리 자신을 다시 설계하여 몇개인가의 다른, 불평등한 종(種)들로 변환시켜놓는다면, 우리는 우리의 민주주의의 근본 초석이라고 할 수 있는 평등의 개념을 위협하게 될 것이다.
유전자공학이 믿을 수 없을 만큼의 강력한 힘을 가지고 있다는 것을 생각할 때, 그 기술을 사용하는 데 중대한 안전문제가 있다는 것은 조금도 놀라운 일이 아니다. 내 친구 애머리 로빈스는 최근에 헌터 로빈스와 함께 이러한 위험에 대해서 생태학적 견지에서 경고하는 논설을 공동으로 썼다. 그들이 갖고 있는 우려 가운데 한가지는 “새로운 생물종의 개발이 진화의 법칙이 아니라 경제적 이해관계에 따라 이루어진다”는 것이었다. 애머리는 오랫동안 사람이 만든 시스템에 대하여 시스템 전체를 총체적으로 보는 관점을 취함으로써 에너지와 자원의 효율성이라는 문제에 관심을 집중해왔다. 그러한 총체적인 관점은 일견 해결하기 어려운 듯이 보이는 문제들에 대하여 흔히 단순하고 깔끔한 해결책을 발견하게 해준다.
 
로빈스들이 쓴 논설을 읽은 후 나는〈뉴욕타임스〉에서 그레그 이스터브룩이 “미래의 식량 ― 러다이트들이 승리하지 않는다면 우리는 비타민A가 포함된 쌀을 곧 갖게 될 것이다”라는 제목으로 유전자조작 농산물에 관하여 쓴 글을 보았다.
애머리와 헌터는 러다이트들인가? 분명히 아니다. 우리는, 만일 비타민A가 포함되도록 유전자조작된 쌀이 종의 경계를 가로질러 유전자가 이동하는 데 따르는 위험을 적절히 고려하여 개발된다면 아마도 좋은 것이 될 수 있다고 모두 동의할 것이다.
 
유전자공학에 내재한 위험에 대한 인식은 로빈스의 논설에 반영되어 있듯이 지금 증가하고 있다. 일반대중은 유전자조작 식품에 대하여 눈을 뜨고, 불안해 하며, 그러한 식품이 표시 없이 판매가 허용되어야 한다는 견해를 거부하고 있는 것으로 보인다.
그러나 유전자공학 기술은 이미 너무나 멀리 나아가버렸다. 로빈스가 지적하고 있듯이, 미국 농무부는 이미 50여가지의 유전자조작 농산물의 무제한적인 방출을 승인하였다. 세계의 콩의 절반 이상과 옥수수의 3분의 1 이상이 지금 다른 생명형태들로부터 떼어낸 유전자 조각들을 포함하고 있다.
여기에는 많은 중대한 문제가 있지만, 내가 주로 우려하는 것은 좀더 좁은 범위에 국한된 문제이다. 즉, 유전자조작 기술이 ― 군사적으로든 우발적으로든, 또는 고의적인 테러행위로든 ― 가공할 재앙을 만들어낼 수 있는 힘을 부여한다는 사실이다.
 
나노테크놀로지의 놀라운 기술은 노벨상을 받은 물리학자 리처드 페인먼이 1959년에 연설을 통해 말하고, 나중에 “기본적으로 개선의 여지가 많다”는 제목으로 발표한 글에서 처음 구상되었다. 1980년대 중반에 내게 큰 인상을 주었던 책은 에릭 드렉슬러의《창조의 엔진》이었는데, 그 책에서 그는 원자 수준에서 물질을 조작함으로써 유토피아적인 풍요의 미래가 어떻게 창조될 수 있을지를 아름답게 묘사하였다. 거기에서는 거의 모든 것이 값싸게 만들어지고, 상상할 수 있는 거의 모든 질병이나 육체적인 문제가 나노테크놀로지와 인공지능을 통해서 해결될 수 있을 것이라는 것이었다.
 
드렉슬러의 다음 책《무한한 미래 ― 나노테크놀로지 혁명》은 우리가 분자 수준의 ‘어셈블러’를 가지게 되는 세계에서 일어날 수 있는 몇몇 변화를 상상하고 있다. 어셈블러들은 믿을 수 없을 만큼의 값싼 비용의 태양 에너지를 가능하게 하고, 인간의 면역체계의 강화를 통해서 암에서 감기에 이르는 거의 모든 질병을 치유하고, 환경을 완전하게 정화하며, 믿을 수 없을 만큼 값싼 포켓용 슈퍼컴퓨터를 만들어낼 수 있을 것이다. 실제로, 어떤 것이라도 어셈블러들이 값싼 비용으로 만들어내지 못할 것이 없게 될 것인데, 우주비행이 오늘날의 대양 횡단보다 더 용이해지고, 멸종된 생물들의 복원도 가능하게 될 것이다.
 
나는《창조의 엔진》을 읽고 내 기분이 편해졌던 것을 기억한다. 한사람의 기술공학자로서 나는 평정(平靜)을 느꼈다. 즉, 나노테크놀로지는 우리들에게 믿을 수 없을 정도의 진보가 가능하며, 그 진보는 아마도 필연적인 것이라는 것을 가르쳐주었다. 만일 나노테크놀로지가 우리의 미래라면, 나는 현재 시점에서 수많은 문제를 해결해야 한다는 압박감을 더이상 느끼지 않아도 되었다. 때가 되면 나는 드렉슬러의 유토피아적 미래에 도달하게 될 것이었다. 나는 지금 여기에서 삶을 즐기면 되는 것이었다. 그와 같은 유토피아적 비젼이 주어져 있는 상황에서, 밤을 새워 일한다는 것은 무의미한 일이었다.
드렉슬러의 비젼은 또한 재미있는 장난거리를 제공하기도 했다. 나는 가끔 이런 문제에 관해 들어본 적이 없는 다른 사람들에게 나노테크놀로지의 경이로움을 묘사해 들려주곤 했다. 드렉슬러가 묘사하고 있는 온갖 것들을 가지고 사람들을 놀라게 만든 다음에는 나는 내 자신이 만든 숙제를 내주곤 했다. “나노테크놀로지를 가지고 흡혈귀를 하나 창조해보십시오. 그리고 그 흡혈귀를 막아내는 또다른 어떤 것을 만들어내면 점수를 더 드리겠습니다.”
나노테크놀로지의 경이로움에는 명백히 위험이 수반되어 있었고, 나는 그것을 예민하게 의식하고 있었다. 1989년 나노테크놀로지에 관한 한 모임에서 내가 말했듯이, “우리가 윤리적 문제에 무관심하면서 과학을 한다는 것은 불가능하다.” 그러나, 이어서 여러 물리학자들과 얘기를 나누어본 결과 나는 나노테크놀로지가 그렇게 뜻대로 잘 되지는 않을 것이라는 것, 적어도 그렇게 빨리는 되지 않을 것이라는 것을 확신하게 되었다. 그 직후 나는 콜로라도로 옮겼고, 내 일의 초점은 인터넷용 소프트웨어, 특히 나중에 ‘자바’와 ‘지니’가 된 아이디어로 이동하였다.
그러다가, 작년 여름에 나는 브로스 해슬래처로부터 나노스케일의 분자전자공학이 이제 실제적인 것이 되었다는 얘기를 들었다. 이것은 적어도 내게 큰 뉴스였다. (아마도 많은 다른 사람들에게도 그럴 것이라고 나는 생각한다.) 그것은 나노테크놀로지에 관한 내 견해를 근본적으로 바꾸어놓았다. 나는 다시금《창조의 엔진》으로 돌아갔다. 10년도 더 지난 다음에 다시 드렉슬러의 책을 읽으면서, 나는 내가 나노테크놀로지가 어떻게 ‘파괴의 엔진’이 될 수도 있는가를 논하고 있는 그 책의 긴 부분에 대해서 거의 기억하지 못하고 있었다는 것을 알고, 당혹스러워했다. 실제로, 미래에 대한 경고를 담고 있는 이 책을 다시 읽으면서 나는 드렉슬러가 제시하고 있는 몇몇 안전책이 매우 나이브하다는 것, 그리고 위험은 드렉슬러가 책을 썼을 때보다도 훨씬 더 큰 것이라는 것을 느꼈다.
어셈블러 기술은 앞으로 20년 내에 출현할 가능성이 높은 것으로 보인다. 분자전자공학 ― 새로운 나노테크놀로지의 하위분야로서, 거기에서 개별 분자들은 회로 요소들이 될 것이다 ― 은 조속히 성숙하고, 앞으로 10년 내에 엄청난 돈벌이가 될 것이며, 따라서 나노테크놀로지에 대한 투자는 크게 증가할 것이다.
불행하게도, 핵기술과 마찬가지로, 나노테크놀로지는 건설적인 용도보다는 파괴적인 용도를 위해 이용되기가 훨씬 더 쉽다. 나노테크놀로지가 군사적으로, 또 테러행위를 위해 사용될 수 있다는 것은 명백하다. 자신은 피해를 입지 않으면서 나노테크놀로지 장치를 방출해놓는 것이 가능한 것이다. 예를 들어, 어떤 특정 지역 또는 어떤 유전적 특성을 지닌 인간집단에게만 선택적으로 상해를 가하는 나노테크놀로지를 이용한 파괴적 장비가 만들어질 수 있는 것이다.
나노테크놀로지라는 엄청난 힘을 얻기 위해서 맺은 파우스트적인 거래로 인한 직접적인 결과는, 우리가 모든 생명이 의존하고 있는 생명권을 파괴할지도 모르는 위험에 직면할 수 있다는 사실이다.
드렉슬러는 다음과 같이 말했다.
오늘날의 태양전지보다 더 효율성이 없는 ‘잎사귀들’을 가진 ‘식물들’도 진짜 식물들과의 경쟁에서 이길 수 있고, 그 결과 생명권이 먹을 수 없는 잎사귀들로 가득찰 것이다. 닥치는 대로 먹어치우는 ‘박테리아들’이 진짜 박테리아들과의 경쟁에서 이길 수 있다. 그리하여 그것들은 날아다니는 꽃가루처럼 퍼져, 급속히 복제됨으로써 단 며칠 만에 생명권을 먼지의 세계로 환원시켜놓을 수 있다. 적어도 우리가 준비를 하지 않는다면, 위험한 복제물들은 쉽사리 단단하고, 작고, 급속히 확산되는 것이 되어 정지시킬 수가 없을 것이다. 우리는 지금 바이러스와 과실파리들을 통제하는 데도 어려움을 겪고 있다.
이것은 분명히 지구상에서의 우리의 모든 인간적 모험을 끝장내는 음울한 종말이 될 것이다. 그것은 물이나 불로 인한 세상의 종말보다 더 끔찍한 것이 될 것이다. 그리고 이러한 종말은 한 실험실에서의 단순한 사고의 결과일 수 있는 것이다.
무엇보다 우리의 경각심을 일깨우는 것은 GNR(유전학과 나노테크놀로지와 로봇공학) 기술에서의 파괴적인 자기복제의 힘이다. 자기복제는 유전공학의 작동방식이다. 그것은 세포가 스스로의 설계를 복제하도록 하는 기술로서, 나노테크놀로지의 근간에 있는 주된 위험이다. ‘보르그’처럼 제멋대로 일탈한 로봇에 관한 이야기들 ― 기계를 만든 사람들이 부과한 윤리적 절제를 벗어나기 위해 자기복제를 하거나 돌연변이하는 ― 은 우리의 공상과학 소설이나 영화 속에 이미 잘 그려져 있다. 자기복제는 우리가 생각했던 것보다 훨씬 더 근본적인 문제일지 모르며, 이제부터는 통제하기가 더 힘들거나 심지어 불가능할지도 모른다. 최근《네이처》에 발표된 스튜어트 카우프먼의〈자기복제 ― 펩타이드도 한다〉라는 논문은 32개의 아미노산으로 구성된 펩타이드가 “자가촉매작용을 일으켜 스스로 합성물을 만들어낸다”는 발견에 대해 토의하고 있다. 우리는 이러한 능력이 얼마나 광범위한 현상인지 모른다. 그러나 카우프먼은 이것이 “왓슨-크릭의 염기쌍보다도 더 넓은 토대 위에서의 자기재생산적인 분자 시스템에의 가능성을 암시해줄지 모른다”는 점을 주목하고 있다.
사실을 말한다면, 우리는 이미 여러해 전부터 GNR(유전공학, 나노테크놀로지, 로봇공학) 기술들에 내재된 위험, 즉 지식의 힘만으로 대량파괴가 가능하다는 위험에 대한 명백한 경고를 받아온 셈이다. 그러나 이러한 경고는 널리 알려지지 않고 있다. 공적 토의는 명백히 부적절하게 이루어져왔다. 이 위험을 대중적으로 널리 알린다는 것은 이익이 생기는 일이 아니기 때문이다.
20세기의 대량파괴 무기로 사용된 NBC(핵, 생물, 화학) 기술들은 대부분 정부기관의 실험실에서 개발된 군사용이었다. 이와 큰 대조를 이루는 21세기의 GNR 기술들은 명백히 상업적인 용도를 가지고 있으며, 거의 예외없이 기업들에 의해 개발되고 있다. 상업주의가 기승을 부리는 이 시대에 테크놀로지는 일찍이 볼 수 없었던 엄청난 돈벌이가 되는 거의 마술적인 발명품들을 끊임없이 내놓고 있다. 우리는 현재 아무런 도전을 받지 않고 있는 전지구적 자본주의 체제와 그 체제 속의 다양한 경제적 인센티브와 경쟁압력 내에서 이들 새로운 테크놀로지들이 제시하는 약속들을 공격적으로 추구하고 있다.
 
 
스스로의 자발적인 행동에 의해서 한 생물종이 자기자신과 수많은 다른 종들에게 위험한 존재가 된 것은 우리의 행성의 역사에서 최초의 일이다.
이것은 많은 세계에서 일어나고 있는 낯익은 진행과정을 나타내는 것인지도 모른다. 즉, 새로이 형성된 한 행성이 한 항성의 둘레를 돌고 있다. 생명이 서서히 형성된다. 만화경 같은 생물체들의 행진이 진화의 과정을 따라 이어진다. 지능이 생기고, 이것은 어느 지점까지 살아남는 데 엄청난 역할을 한다. 그리고는 기술이 발명된다. 자연법칙과 같은 것이 있고, 이 법칙은 실험에 의해서 드러날 수 있으며, 이러한 법칙에 대한 지식은 미증유의 규모로 생명을 구할 수도 있고, 빼앗을 수도 있는 것이라는 생각이 그들에게 떠오른다. 과학은 엄청난 힘을 허용한다는 사실을 그들은 알게 된다. 한순간에 그들은 세계를 변화시킬 수 있는 장치들을 만들어낸다. 몇몇 문명들은 자신들의 갈길을 찾아내고, 해도 되는 것과 해서는 안될 것의 한계를 정하여, 위기를 안전하게 통과한다. 그밖의 다른 문명들은 그다지 운이 좋지 않거나 신중하지 못한 결과로 파멸하고 만다.위의 묘사는 카알 세이건이 1994년에 쓴《창백한 푸른 점》에 나오는 구절이다. 이 책은 우주에 있어서의 인간의 미래에 대한 세이건의 비젼을 담고 있다. 나는 지금 그의 통찰이 얼마나 깊은 것이었던가, 그리하여 그의 목소리가 지금이나 나중에 얼마나 아쉬운 것이 될 것인가를 깨닫고 있다. 세이건의 목소리는 그 웅변적인 어조에도 불구하고 결국 단순한 상식에서 나온 것이다. 이러한 상식이야말로 지금, 겸손과 마찬가지로, 21세기 기술의 주창자들이 결여하고 있는 자질인 것이다.

나는 어렸을 적부터 우리 할머니가 항생제 남용에 대해 극력 반대하시던 것을 기억하고 있다. 할머니는 1차 세계대전 전부터 간호사로 일하셨는데, 항생제 복용은 절대적으로 필요한 경우를 제외하고는 나쁘다는 상식적인 태도를 갖고 계셨다.
할머니가 진보의 적(敵)이었던 것은 아니다. 할머니는 거의 70년에 걸친 간호사 생활에서 많은 진보를 보아오셨다. 당뇨병 환자였던 우리 할아버지는 자신의 생애 동안 이루어졌던 개선된 치료법으로 크게 혜택을 받으셨다. 그러나 지금 살아계셨더라면, 할머니는 다른 많은 상식적인 사람들과 마찬가지로 현재 우리가 비교적 간단한 문제들을 해결하고, 우리 자신을 스스로 관리하는 데 있어서도 ― 또는 심지어 이해하는 데 있어서도 ― 너무나 많은 어려움을 갖고 있음이 명백한 이때에 우리 자신을 대신할 로봇 종(種)을 우리가 설계하고 있다는 것은 엄청나게 교만한 행동이라고 생각하실 것이다.

나는 지금 우리 할머니가 생명의 질서의 본질에 대한 인식을 갖고 계셨고, 그 질서와 함께 살고, 그 질서를 존경해야 할 필요성을 잘 이해하고 계셨다고 생각한다. 이러한 존경과 더불어 오늘날 우리가 결여하고 있는 겸손한 태도가 나오는 것이다. 이러한 존경심에 뿌리를 둔 상식적인 견해는 흔히 과학적으로 증명되기 이전에 올바른 것이다. 우리는 우리가 만들어온 시스템들의 본질적인 취약성과 비효율성에 주목해야 한다. 그것을 주목한다면 우리는 겸손해질 수밖에 없는 것이다.

우리는 최초의 원자탄 제조와 그에 따른 군비경쟁으로부터 교훈을 얻었어야 했다. 우리는 잘 배우지 못했고, 그 결과 현재 혼란스러운 상황에 직면하였다.
최초의 원자탄을 제조하기 위한 노력은 뛰어난 물리학자 J. 로베르트 오펜하이머에 의해 주도되었다. 오펜하이머는 생래적으로 정치에 관심이 있었던 사람은 아니지만, 자신이 본 것을 히틀러의 제3제국이 서구문명에 가하는 위협으로 간주하였다. 그 위협은 히틀러가 핵무기를 손에 넣을지도 모른다는 가능성 때문에 명백히 심각한 것이었다. 이러한 우려로 말미암아 그는 자신의 강한 지적 능력과 물리학에 대한 열정, 그리고 카리스마적인 리더십을 발휘하여, 믿을 수 없을 만큼 신속하게 뛰어난 정신들을 규합하여 원자탄을 만들어내는 일을 이끌었다.

놀라운 것은 이러한 노력이, 최초의 강력한 동기가 제거된 이후에도 자연스럽게 계속되었다는 사실이다. 1945년 5월 연합군의 승리로 유럽에서의 전쟁이 종식된 직후 이제 원자탄 제조를 위한 노력은 멈추어져야 한다고 느낀 몇몇 물리학자들과의 모임에서 오펜하이머는 이 일을 계속할 것을 주장하였다. 그의 논리는 조금 기묘했다. 즉, 원자탄 제조작업이 계속되어야 하는 것은 일본 본토에 대한 침공으로부터 빚어질 대규모의 인명손상에 대한 두려움 때문이 아니라 곧 발족될 유엔이 원자무기에 대하여 사전지식을 갖고 있을 필요가 있기 때문이라는 것이었다. 그러나 좀더 그럴듯한 이유는 이미 그때까지 진행된 프로젝트의 관성 때문이었을 것이다. 최초의 원자탄 실험이 임박해 있었던 것이다.

우리는 이 최초의 원자탄 실험을 준비함에 있어서 물리학자들이 수많은 가능한 위험에도 불구하고 일을 진행시켰다는 것을 알고 있다. 그들은 처음에 원자탄 폭발이 대기권의 발화(發火)로 이어질지도 모른다는 에드워드 텔러의 계산에 근거하여 꽤 걱정을 하였다. 다시 이루어진 계산에서 대기권 발화로 인한 세계의 파멸 위험성은 100만분의 3의 가능성으로 감소되었다. 그러나, 오펜하이머는 뉴멕시코의 남서부 지역을 소개(疏開)시키는 정도로만 원자탄 실험의 결과에 대한 우려를 표시하였다. 그리고, 이 문제와 별도로, 원자탄 개발이 현실화된다면 핵무기 경쟁이 시작되는 위험이 있다는 것은 명백한 사실이었다.

최초의 성공적인 실험 이후 한달 내에 두개의 원자탄이 히로시마와 나카사키를 파괴했다. 몇몇 과학자들은 그 폭탄을 실제로 일본의 도시에 떨어뜨리지 말고, 단순히 시위용으로만 사용할 것을 ― 그렇게 하면 전후의 군비통제 가능성을 크게 높일 수 있을 것이라면서 ― 제안하였으나 소용이 없었다. 미국인들의 마음에 아직 진주만의 비극이 생생하게 남아있는 상황에서, 트루먼 대통령이 원자탄을 실제 사용하지 않고 시위만을 할 것을 명령한다는 것은 어려웠을 것이다. 전쟁을 조속히 끝내고, 어떤 형태의 것이든 일본에 대한 침공으로 빚어질 인명상실을 막고자 하는 욕망은 매우 강력하였다. 그러나, 전체적인 진실은 아마도 굉장히 단순한 것이었을 것이다. 물리학자 프리먼 다이슨이 나중에 말한 바와 같이, “폭탄이 투하된 것은 그 누구도 ‘아니오’라고 말할 수 있는 용기나 선견지명을 갖고 있지 않았기 때문이다.”

중요한 것은, 1945년 8월 6일 히로시마 폭탄 투하 후에 물리학자들이 엄청난 충격을 받았다는 사실이다. 그들은 자신들이 느낀 감정의 파도를 단계별로 묘사하였다. 처음에 폭탄이 제대로 기능을 했다는 데서 오는 성취감이 있었다. 그 다음에 피폭으로 무수히 많은 사람들이 죽었다는 데서 오는 끔찍한 공포감, 그리고는 이제 어떤 경우에도 또다른 원자탄이 투하되어서는 안된다는 설득력있는 감정이 그들을 지배했다. 그럼에도 불구하고, 사흘 뒤 또다른 폭탄이 나카사키에 투하되었다.

1945년 11월, 원자탄 투하 3개월 후 오펜하이머는 확고한 과학적 태도를 견지하고 이렇게 말했다. “세계에 대한 지식과 그 지식이 부여하는 힘이 인류에게 내재적 가치를 갖고 있으며, 우리가 그것을 이용하여 지식의 전파에 기여하고, 그 결과를 기꺼이 받아들인다는 믿음이 없다면 과학자가 된다는 것은 불가능하다.”

오펜하이머는 그후 다른 사람들과 함께 에치슨-릴리엔탈 보고서 작업에 들어갔다. 그 보고서는 리처드 로디즈가 최근에 쓴 책《테크놀로지의 비젼》에서 말하고 있듯이, “무장한 세계정부에 호소하지 않고 비밀스러운 핵무기 경쟁을 막기 위한 방법”을 찾고자 하였다. 그들이 제안한 것은 국민국가들이 핵무기에 관한 일을 하나의 국제기관에 위임함으로써 사실상 핵무기 개발을 포기하게 한다는 것이었다. 이 제안은 ‘바러치 계획’이라는 이름으로 1946년 6월에 유엔에 제출되었으나 채택되지 않았다. 군비경쟁을 막기 위해서 핵의 힘을 국제화하려는 분별있는 노력들은 미국의 정치 또는 내적 불신에 부딪히거나 소련의 불신에 부딪혔다. 군비경쟁을 회피할 수 있는 기회는 급속히 사라졌다.
2년 후인 1948년에 오펜하이머의 생각은 또다른 단계에 접어들었던 것으로 보인다. 그는 말했다. “어떤 무례함도, 어떤 농담도, 어떤 과장된 말로도 완전히 제거할 수 없는 어떤 종류의 조잡한 의미에 있어서, 물리학자들은 죄를 지어왔다는 것을 알고 있다. 이것은 잊어버려서는 안될 지식이다.”
1949년에 소비에트 사람들이 원자탄 하나를 폭발시켰다. 1955년이 되면, 미국과 소련은 이미 비행기로 운반하는 데 적합한 수소폭탄 실험을 끝내놓고 있었다. 핵무기 경쟁은 시작된 것이다.
거의 20년 전《트리니티 다음날》이라는 기록에서 프리먼 다이슨은 인류사회를 핵 벼랑으로 치닫게 한 과학적 태도를 요약하였다.
나 자신 핵무기의 광휘(光輝)를 느꼈다. 과학자로서 접근하는 한 이것은 어쩔 수가 없었다. 별들을 움직일 수 있는 에너지가 있고, 내 마음대로 엄청난 에너지를 방출할 수 있는 것이 내 손에 들어있다는 것을 느껴보라. 이것은 기적을 행하고, 백만톤의 바위를 하늘로 들어올릴 수 있는 에너지이다. 그것은 사람들에게 무한한 힘에 대한 환상을 주는 것이고, 어떤 면에서 우리의 온갖 문제의 원인이 되는 것이다. 우리는 그것을 기술적 교만성이라고 부를 수 있지만, 이 교만성은 사람들을 쉽사리 지배한다.

그때처럼 지금 우리는 새로운 기술과 그 기술이 만들어내는 상상된 미래의 별들의 창조주들이다. 우리는 지금 우리가 창조하고 상상해내고 있는 것의 현실적 결과로서 직면할 세계에서 우리가 어떤 삶을 살게 될지 거의 따져보지 않고, 명백한 위험에도 불구하고, 엄청난 경제적 보상과 전지구 규모에 걸친 경쟁 속에서 내몰리고 있다.
1947년에《원자과학자협회지》는 그 잡지의 표지에 ‘종말의 날 시계’를 표시하기 시작하였다. 50년 이상 그 표지는 그때그때의 변화하는 국제상황을 반영하면서, 우리가 직면해온 핵위험에 대한 상대적인 평가를 표시해왔다. 시계바늘은 15번이나 움직여왔는데, 오늘날은 자정 9분 전을 가리키고 있다. 이것은 핵무기로부터 오는 계속적이고 현실적인 위험을 반영하고 있다. 최근 인도와 파키스탄이 핵국가 리스트에 추가되면서 핵의 비확산이라는 목표에 위협이 증대되었고, 그 위험으로 1998년에 시계바늘은 자정으로 더 바싹 이동하였다.
이제 우리는 핵무기뿐만 아니라 이 모든 기술들로 인해 얼마나 많은 위험에 직면해 있는가? 절멸의 위험은 얼마나 높은가?
철학자 존 레슬리는 이 문제를 탐구하여, 인류 절멸의 위험은 적어도 30퍼센트라고 결론 내렸다. 그 반면에 레이 커즈웨일은 그가 “늘 낙관주의자라는 비난을 받아왔다”는 전제 하에서 우리가 “사태를 극복해나갈 찬스가 반 이상 된다”고 믿는다. 이런 평가들은 썩 고무적인 것이 되지 못할 뿐더러, 거기에는 절멸까지 가지는 않더라도 우리가 수많은 끔찍한 상황에 처할 개연성이 고려되어 있지 않다.

그러한 전망에 직면하여 일부 진지한 사람들은 우리가 가능한 한 빨리 지구를 벗어나 다른 별로 옮겨갈 것을 벌써 제안하고 있다. 우리는 폰 노이만의 우주선을 이용하여 별에서 별로 옮겨다니며 은하계를 우리의 식민지로 삼을 수 있을 것이라는 것이다. 이런 단계는 지금부터 50억년 후면(또는 우리의 태양계가 앞으로 30억년 내에 안드로메다 은하계와의 충돌로 파멸적인 충격을 받는다면 그보다 더 일찍) 거의 틀림없이 필요하게 될 것이다. 그러나, 우리가 커즈웨일이나 모라벡의 말을 믿는다면 그것은 이번 세기의 중반에 필요한 일이 될지도 모른다.
여기서, 이런 문제들에 내포된 도덕적 의미는 무엇일까? 만일 우리가 종(種)의 생존을 위하여 급히 지구를 떠나야 한다면, 뒤에 남아있게 될(결국 우리들 중 대부분의) 사람들의 운명에 대한 책임은 누가 지는가? 그리고, 설령 우리가 다른 별들로 흩어져 살게 된다 하더라도 우리는 결국 우리의 문제를 가지고 가게 되거나 아니면, 나중에, 그런 문제들이 우리를 따라왔다는 것을 발견하게 될 가능성이 높을 게 아닌가? 지구상에서의 우리의 운명과 은하계에서의 우리의 운명은 떼어놓을 수 없이 연결되어 있는 것으로 보인다.

또다른 제안은 위험한 테크놀로지 하나하나에 대하여 우리 자신을 방어할 방패를 만들자는 것이다. 레이건 행정부에 의해 제안된 ‘전략방어계획(Strategic Defense Initiative)’은 소련으로부터의 핵공격 위협에 대한 방패로서 설계된 것이다. 그러나 그 계획에 관한 토의에 관여하였던 아서 C. 클라크가 말했듯이, “탄도탄들 중 극소수만을 통과하게 할 지역방어체제를 엄청난 비용을 들여 건설하는 것이 가능할지 모른다 해도 전면적 국가 방어체제라는 ― 많은 사람들이 지지해온 ― 개념은 넌센스였다. 아마도 이번 세기의 가장 위대한 실험물리학자인 루이스 앨버레즈가 내게 한 말에 따르면, 그러한 계획의 주창자들은 ‘머리는 뛰어나되 상식은 없는 친구들’이었다.”
클라크는 계속해서 말하였다. “때때로 나는 전면적 방어가 한 세기 정도 내에 가능할지도 모른다고 생각합니다. 그러나 그것을 이루어내기 위해 동원된 테크놀로지는 하나의 부산물로서 너무도 끔찍한 무기들을 생산하게 될 것이며, 그 결과 누구도 탄도탄 같은 ‘원시적’ 무기에 관심을 갖지 않게 될 것입니다.”

《창조의 엔진》속에서 에릭 드렉슬러는, 실험실로부터 빠져나가거나 또는 악의적으로 만들어진 모든 종류의 위험한 복제물을 차단하기 위하여 ― 생명권을 위한 일종의 면역체계로서 ― 하나의 적극적인 나노테크놀로지 방패를 건설할 것을 제안하였다. 그러나 그가 제안한 방패는 그 자체 매우 위험한 것이 될 것이다. 그것이 자가면역 문제를 일으켜, 생명권 자체를 공격하는 것을 그 어떤 것도 막아낼 수 없을 것이기 때문이다.

그와 비슷한 어려움은 로봇과 유전공학에 대한 방패를 건설하는 데도 해당된다. 이러한 기술들은 너무도 강력한 것이어서 적절한 시간 내에 그것들을 막아낸다는 것은 불가능하다. 설령 방패를 설치하는 것이 가능하다 하더라도 그 방패 개발의 부작용은 적어도 그것이 막아내고자 하는 기술들만큼 위험한 것이 될 것이다.
따라서 이러한 가능성들은 모두 바람직하지 않거나 성취 불가능한 것들이다. 내가 보는 한, 유일한 현실적인 대안은 포기하는 것이다. 즉, 어떤 종류의 지식의 추구에는 제약을 가함으로써 너무나 위험스러운 기술의 개발에 제동을 거는 것이다.
물론 나는, 지식이란, 새로운 진실의 추구가 그렇듯이, 좋은 것이라는 걸 알고 있다. 우리는 먼 옛날부터 지식을 추구해왔다. 아리스토텔레스는 그의《형이상학》을 다음과 같은 단순한 진술로 시작하고 있다. “모든 인간은 알고자 하는 욕망을 갖고 있다.” 우리는 정보에 대한 자유로운 접근을 우리 사회의 기본 가치 중의 하나로 받아들이는 데 오래 전부터 합의해왔고, 지식에 대한 접근과 지식의 발전을 제약하는 데서 발생하는 문제점들을 인식하고 있다. 최근에, 우리는 과학적 지식을 존경하는 데까지 이르렀다.
그러나 강한 역사적 선례에도 불구하고, 만일 지금부터 지식에 대한 자유로운 접근과 지식의 무제한적인 발전이 우리 모두를 명백한 절멸의 위험에 빠트린다면, 우리가 오랫동안 받들어온 이러한 기본적인 믿음을 재검토해야 한다는 것은 상식의 명령이다.
19세기 말에 니체는 신(神)은 죽었다고 했지만, 또한 “과학에의 믿음이 생겨난 기원은 유용성에 대한 고려에 있지 않다”고 경고했다. 그는 ‘진실에의 의지’, 즉 ‘어떠한 대가를 치르고도 진실을 얻어낸다’라고 하는 태도의 비유용성과 위험이 거듭 증명되었음에도 ‘불구하고’ 과학에 대한 신앙이 생겨났음이 틀림없다고 말했다. 우리가 지금 직면한 것은 바로 이러한 위험, 즉 우리의 진실추구의 결과이다. 과학이 추구하는 진실은 만일 그것이 우리의 절멸을 초래하는 것이라면 명백히 신(神)에 대한 위험한 대체물로 간주될 수 있다.
만일 우리가 하나의 종(種)으로서 무엇을 우리가 원하고, 어디로 우리가 가고 있으며, 어째서 그러한가에 대해 동의한다면, 그때 우리는 우리의 미래를 훨씬 더 위험이 적은 것으로 만들 수 있을 것이다. 우리는 무엇을 우리가 할 수 있고, 포기해야 할 것인가를 이해하게 될 것이다. 그렇게 되지 않는다면, NBC(핵, 생물, 화학) 기술들이 20세기에 그러했듯이, GNR 기술들 위에서 무기경쟁이 전개될 것이라는 것을 우리는 쉽게 상상할 수 있다. 아마도 이것은 가장 큰 위험일 것이다. 왜냐하면 한번 경쟁이 시작되면, 그것을 멈춘다는 것은 매우 어렵기 때문이다. 그렇게 되면, 이번에는 ― 맨해튼 계획 기간과는 달리 ― 우리의 문명에 위협을 가하는 하나의 무자비한 적과 맞선 그러한 전시상황 때문이 아니라, 우리의 습관, 우리의 욕망, 우리의 경제체제, 그리고 알고자 하는 우리의 경쟁적 욕구 때문에 쫓기게 될 것이다.
나는 우리 모두가 우리의 집단적 가치, 윤리, 도덕에 의해 우리의 나아갈 길이 결정될 수 있기를 바란다고 믿는다. 만일 우리가 지난 수천년 동안 좀더 많은 집단적 지혜를 얻어왔더라면 이런 목적을 위한 대화가 좀더 실제적인 것이 되고, 우리가 바야흐로 방출하려고 하는 엄청난 힘이 이처럼 고민거리가 되지는 않았을 것이다.
아마도 어떤 사람들은 우리의 자기보존 본능 때문에 그러한 대화가 결국 가능할 것이라고 생각할지 모른다. 물론 개인들 각자는 이런 본능을 갖고 있는 게 사실이다. 그러나, 하나의 종(種)으로서 우리의 행동은 반드시 우리 편인 것 같지는 않다. 핵 위협에 관련하여 우리는 흔히 우리 자신에게, 또 서로서로에게 부정직하게 말해왔고, 그렇게 함으로써 위험을 크게 증대시켜왔다. 이러한 행동의 동기가 정치적 고려 때문인지, 우리가 앞을 내다보지 않기로 선택했기 때문인지, 아니면 심각한 위협에 직면하여 우리가 두려움 속에서 비합리적으로 행동했기 때문인지 나는 모르지만, 그러나 이것은 좋은 징조가 아니다.
유전자공학, 나노테크놀로지, 로봇공학이라는 새로운 판도라의 상자가 거의 열렸는데도 불구하고, 우리는 이것을 주목하고 있지 않은 것 같다. 아이디어는 상자 속으로 되돌려넣을 수 없다. 우라늄이나 플루토늄과는 달리 그러한 지식은 채굴할 필요도, 정련(精鍊)할 필요도 없다. 그것들은 자유로이 복사될 수 있다. 일단 밖으로 나왔으면 나온 것이다. 처칠은 어느 유명한 의례적 찬사에서, 미국 사람들과 그 지도자들은 “모든 대안을 다 검토한 후에 언제나 올바른 것을 행한다”고 말했다. 그러나 이 경우에, 우리는 보다 큰 선견지명을 가지고 행동하지 않으면 안된다. 마지막에 가서야 올바르게 행동해서는 올바른 것을 행할 기회를 죄다 잃어버리게 될지 모르기 때문이다.
소로우가 말했듯이, “우리가 기차를 타는 게 아니라 기차가 우리 위에 타고 있다.” 문제는 과연 누가 주인인가 하는 것이다. 우리가 살아남을 것인가, 기술이 살아남을 것인가?
우리는 아무런 계획, 아무런 제어장치, 아무런 브레이크가 없이 이 새로운 세기로 밀어닥쳤다. 너무나 멀리 떠나왔기 때문에 길을 바꾸는 건 이미 불가능하지 않을까? 나는 그렇다고 믿지 않는다. 우리는 시도도 하지 않고 있다. 제동을 걸 마지막 기회가 빠른 속도로 다가오고 있다. 우리는 상업화된 유전자공학 기술뿐만 아니라 최초의 애완 로봇을 가지고 있고, 우리의 나노테크놀로지는 급속히 진보하고 있다. 이러한 기술들의 발전은 수많은 단계를 거쳐 진전되기 때문에, 하나의 테크놀로지의 완성을 위한 마지막 단계는 ― 맨해튼 계획의 경우처럼 ― 크고 힘든 것일 필요가 없다. 로봇, 유전공학, 나노테크놀로지에 있어서의 걷잡을 수 없는 자기복제의 실현은 어느날 갑자기 닥칠 수 있다. 포유류 동물의 복제 소식을 처음 들었을 때 우리가 느꼈던 놀라움을 생각해보라.
그럼에도 불구하고, 나는 우리가 희망을 위한 강력하고 견고한 기반을 가지고 있다고 믿는다. 지난 세기에 대량파괴 무기를 다루어온 우리의 노력은 우리가 고려해야 할 ‘포기’에 대하여 하나의 좋은 범례를 제공하고 있다. 즉, 미국은 생물무기의 개발을 아무런 전제조건 없이 일방적으로 포기하였던 것이다. 이러한 포기의 결정은 이 끔찍한 무기를 만들어내는 데는 엄청난 노력이 드는 반면에 한번 만들어진 다음에는 쉽사리 복제될 수 있고, 깡패국가나 테러 집단의 손으로 넘어갈 수 있다는 깨달음에서 나왔다.
그리하여, 이러한 무기개발을 추구한다면 우리 자신에 대한 추가적인 위협이 생겨날 것이며, 따라서 우리가 그 무기들을 추구하지 않는 것이 더 안전할 것이라는 분명한 결론이 나왔던 것이다. 우리는 생물 및 화학무기의 포기를 1972년의 ‘생물무기협약’과 1993년의 ‘화학무기협약’에서 구체화시켰다.
지금 우리가 50년 이상 그 밑에서 살고 있는 핵무기로부터의 계속되는 위협에 관해 말한다면, 최근 미국 상원이 ‘포괄적 핵실험 금지조약’을 거부한 것은 핵무기의 포기가 정치적으로 쉽지 않다는 것을 명백히 해준다. 그러나 우리는 냉전 종식과 더불어, 다극(多極) 군비경쟁을 막을 수 있는 드문 기회를 갖게 되었다. 생물 및 화학무기의 포기를 기반으로 하여, 핵무기의 포기가 성공한다면 그것은 위험한 기술들을 포기하는 습관이 형성되는 데 기여할 수 있을 것이다.
‘포기’를 확인한다는 것은 어려운 문제일 것이지만, 해결 불가능한 것은 아니다. 우리는 이미 생물무기와 그밖의 조약에 관련하여 많은 유용한 작업을 이루어내는 데 성공했다. 우리의 주된 과업은 이러한 노력을, 본래 군사적이기보다 훨씬 더 상업적인 기술들에게 어떻게 적용하는가 하는 것이 될 것이다. 여기서 실질적으로 필요한 것은 투명성이다.
나는 솔직히 1945년의 상황이 지금 우리가 닥친 상황보다 더 단순했다고 생각한다. 핵기술은 상업적 용도와 군사적 용도로 분리될 수 있었고, 감시 및 확인은 핵실험의 성격과 방사능 측정의 용이함 때문에 한결 쉬운 일이었다. 군사 목적의 핵연구는 로스 알라모스와 같은 국가기관 실험실에서 이루어질 수 있었고, 그 결과는 가능한 한 오래 비밀로 유지되었다.
GNR(유전공학, 나노테크놀로지, 로봇공학) 기술들은 상업용과 군사용으로 명확히 구분되지 않는다. 시장에서의 잠재적 가치를 고려할 때, 그 기술들을 국가기관의 실험실에서만 추구한다는 것은 상상하기 어렵다. GNR 기술들의 포기를 실현하기 위해서는 생물무기에 대한 감시확인 체계와 비슷한 체계가, 그것도 미증유의 규모로, 필요할 것이다. 이것은 필연적으로 우리의 개인적 프라이버시 및 정보에의 욕구와 우리 모두를 보호하기 위한 감시 확인의 필요성 사이에 긴장을 일으킬 것이다. 우리는 의심할 바 없이 프라이버시와 행동의 자유의 상실에 대한 강력한 저항에 부딪힐 것이다.
특정 GNR 기술들의 포기를 확인하는 작업은 물리적인 시설뿐만 아니라 사이버공간 속에서도 행해지지 않으면 안될 것이다. 핵심적인 문제는 새로운 형태의 지적소유권 보호를 보장함으로써 재산가치를 가진 정보의 세계에서 투명성이 실현되도록 만드는 일일 것이다.
투명성의 확인은 과학자와 기술자들이 히포크라테스 선서를 닮은 강력한 윤리적 행동규범을 받아들일 것을 요구하기도 할 것이다. 그리고, 필요하다면, 그들은 무거운 개인적 희생을 무릅쓰고 내부고발을 할 수 있는 용기를 가져야 할 것이다. 노벨상 수상자 한스 베티는 맨해튼 계획에 참여했던 과학자들 중 지금 생존해 있는 가장 원로 물리학자인데, 히로시마 원폭 투하 50년이 경과한 후 모든 과학자들이 “핵무기와 그밖의 잠재적으로 대량파괴력을 가진 무기들의 창조, 개발, 개선, 제조 작업을 중단하고 거기서 물러나야 할 것”을 호소하였다. 21세기에 NBC 기술들이나 GNR 기술들을 막론하고 이러한 분야에서 일하는 사람들이 대량파괴 무기를 회피하기 위해서는 각성된 의식과 개인적 책임감이 필요할 것이다.
소로우는 “우리가 건드리지 않고 내버려두는 것이 많으면 많을수록 우리의 삶이 부유해진다”고 말하였다. 우리들 각자는 행복을 추구한다. 이제 우리가 보다 많은 지식과 보다 많은 물건을 획득하기 위하여 전면적 파괴의 위험을 감수해야 할 필요가 있는지 물어보아야 한다. 우리의 상식에 따르면, 우리의 물질적 욕구에는 한계가 있고, 어떤 지식은 지나치게 위험스럽기 때문에 삼가는 것이 최선이다.
우리는 장생불사에의 꿈도 버려야 한다. 그러한 꿈의 추구에는 너무나 값비싼 대가, 절멸의 위험이 따르기 때문이다. 나는 최근에 뛰어난 작가이자 학자인 자크 아탈리를 만날 행운을 얻었다. 그의 책《지평선》은 다가오는 만인(萬人)의 컴퓨터 시대에 ‘자바’와 ‘지니’가 어떻게 접근해야 할 것인가에 대해 내게 영감을 불어넣어주었다. 그의 새로운 책《형제애》속에서 아탈리는 유토피아에 대한 우리의 꿈이 시간을 따라 어떻게 변해왔는가를 묘사하고 있다.
사회의 여명기에, 인간은 지상에서의 삶을 그저 단순한 고통의 미로로만 보았다. 그 미로가 끝나는 곳에 죽음을 거쳐 신들과 ‘영원’의 세계로 이어지는 문이 있었다. 히브류인들과 그리스인들에 이르러, 일부 인간은 신학적 명령으로부터 해방되어 ‘자유’가 꽃필 수 있는 이상적인 ‘도시’를 감히 꿈꿀 수 있게 되었다. 다른 사람들은, 시장사회의 진화를 보면서, 일부 인간의 자유는 다른 인간의 소외를 초래한다는 것을 이해하였고, 그래서 그들은 ‘평등’을 추구하였다.

자크의 도움으로 나는 이들 세개의 다른 유토피아의 목표들이 오늘날 우리 사회에서 긴장관계 속에 어떻게 공존하고 있는지를 이해하게 되었다. 그는 계속하여 네번째의 유토피아 즉, 이타주의에 기반을 둔 ‘형제애’에 대해 묘사하고 있다. ‘형제애’만이 개인의 행복과 타인들의 행복을 조화시킬 수 있다.
이것이 커즈웨일의 꿈에 대해 내가 갖고 있는 의혹의 정체를 분명히 해주었다. ‘영원’에 대한 기술주의적 접근 ― 로봇을 통한 장생불사의 꿈 ― 은 가장 바람직한 유토피아일 수 없고, 그것을 추구한다면 위험이 따른다는 것은 명백하다. 우리는 우리가 어떠한 유토피아를 선택할지를 다시 생각하지 않으면 안된다.

우리는 어디에서 새로운 윤리적 토대를 찾을 수 있는가? 나는 달라이 라마의《새로운 천년을 위한 윤리》에 담겨있는 생각이 큰 도움이 된다는 것을 발견했다. 아마도 잘 알려져 있으나 거의 주목되고 있지는 않은 달라이 라마의 논리는 타자에 대한 사랑과 자비심으로 삶을 살아가는 것이 가장 중요하다는 것이다. 우리 사회는 보편적 책임과 우리 존재의 상호의존성에 대한 보다 강력한 개념을 발전시킬 필요가 있다. 달라이 라마가 제안하는 것은 아탈리의 ‘형제애’의 유토피아와 공명하는 것으로서 개인과 사회를 위한 적극적인 윤리적 행동의 표준이다.

달라이 라마는 계속하여 사람을 행복하게 하는 것이 무엇인지 우리가 이해해야 한다고 말한다. 물질적인 진보도 지식의 힘을 추구하는 것도 결코 행복에 이르는 관건이 될 수 없다는 것, 즉 과학과 과학적 추구만으로는 한계가 있음을 보여주는 강력한 증거를 볼 수 있어야 한다는 것이다.
우리들 서구인의 행복관은 그리스인들로부터 온 것이다. 그리스인들은 행복을 “삶의 폭을 넓혀주는 수월성(秀越性)의 노선을 따른 생명력의 행사”로 정의하였다.
확실히, 우리가 어떻든 행복해지려면 우리의 삶에서 의미있는 도전과 폭넓음을 발견할 필요가 있다. 그러나 나는 우리가 끊임없는 경제성장의 문화를 넘어서 우리의 창조력을 발휘할 수 있는 대안적 출구를 찾아야 한다고 믿는다. 경제성장은 지난 수백년 동안 우리에게 축복이었지만, 그러나 그것이 우리에게 행복을 가져다준 것은 아니다. 우리는 이제 과학과 기술을 통한 무제한적이고 무분별한 성장을 추구하여 그에 따른 명백한 위험을 받아들일 것인지 선택하지 않으면 안된다.

내가 레이 커즈웨일과 죤 서얼과 처음 만난지 이제 일년이 넘었다. 나는 내 주변에서 희망의 징조를 보고 있다. 경고와 포기에 관해 말하는 목소리들이 들려오고, 현재의 곤경에 대해 내가 우려하고 있는 만큼 깊이 우려하고 있는 사람들을 나는 발견하였다. 나는 또한 내가 이미 해온 일이 아니라 앞으로 하게 될지도 모를 일에 대해 좀더 심화된 개인적 책임을 느낀다.
그러나, 위험에 대해 알고 있으면서도 많은 사람들이 아직 이상스러운 침묵을 지키고 있는 것 같다. 대답을 하라는 압력을 받으면, 그들은 “이건 아무것도 새로운 것이 아니다”라는 답변을 내뱉는다. 마치 어떤 일이 일어날 것인가를 인식하고 있는 것으로 충분하다는 것처럼 말이다. 대학에는 이 문제를 온종일 연구하고 있는 생명윤리학자들이 있다. 그들은 말한다. 이 모든 것은 이미 오래 전부터 전문가들에 의해 이야기되어왔던 것들이다. 당신의 논리와 당신이 우려하는 것은 이미 케케묵은 이야기다 ― 라고 그들은 투덜거린다.

나는 그들이 과연 어디에 그들의 두려움을 감추어두고 있는지 모른다. 복잡한 시스템 설계일을 하는 사람으로서 나는 이 분야에 비전문가로서 들어왔다. 그러나 이런 사실 때문에 내가 느끼는 우려가 줄어들 수 있는가? 나는 많은 권위있는 사람들에 의해 이 문제가 거론되어왔다는 것을 알고 있다. 그러나, 그것이 우리에게 닥쳐온 위험을 무시해도 좋다는 뜻이 되는가?

안다는 것은 행동하지 않아도 된다는 것을 의미하지 않는다. 지식은 우리가 우리 자신에 대해 휘두르는 무기가 되어버렸다는 것을 의심할 수 있는가?
원자과학자들의 경험은 개인적 책임을 느껴야 할 필요를 명백히 보여준다. 사태는 너무도 급속히 진전되고, 한 단계에서 다음 단계로의 발전은 그 자체의 내적 논리에 따라 전개되어왔던 것이다. 우리는, 원자과학자들의 경우처럼, 거의 눈 깜짝할 사이에 극복할 수 없는 문제를 만들어낼 수 있는 것이다. 우리 자신의 손으로 만든 결과물에 의해 우리가 놀람과 충격에 휩싸이지 않으려면 우리는 좀더 사려깊어야 한다.

전문가로서의 나의 계속적인 일은 소프트웨어의 신뢰성을 개선해 나가는 데 있다. 소프트웨어는 하나의 도구이며, 하나의 도구 설계자로서 나는 내가 만든 도구의 용도에 대해 마음을 쓰지 않으면 안된다. 나는 언제나 소프트웨어를 좀더 믿을 만한 것으로 만드는 일은, 그것이 갖는 많은 용도를 고려할 때, 세계를 좀더 안전하고 살기 좋은 장소로 만들 것이라고 믿어왔다. 만일 내가 그 반대라고 믿는 날이 온다면, 그때 나는 도덕적 인간으로서 이 일을 중지해야 할 것이다. 나는 지금 그런 날이 올지도 모른다고 상상할 수 있다.
이 모든 것을 생각하면 나는 화가 난다기보다 우울해진다. 이제부터 내게 진보라는 것은 씁쓸한 어떤 것일 것이다.

영화〈맨해튼〉의 거의 마지막에서, 우디 알렌이 침상에 누운 채 녹음기에다 대고 말을 하고 있는 아름다운 장면을 기억하는가? 그는 스스로 불필요한, 신경증상을 만들어냄으로써 우주에 관한 해결 불가능한 끔찍한 문제들로부터 회피하고자 하는 사람들에 관하여 짧은 스토리를 쓰고 있다.
우디 알렌은 “삶은 어째서 살 만한가?”라고 묻는 데까지 이르게 된다. 그리하여 그는 그에게 가치있는 것이 무엇인지를 생각해본다. 그루코 맑스, 윌리 메이즈, 쥬피터 교향곡 제2악장, 루이 암스트롱의〈포테이토 헤드 블루스〉, 스웨덴 영화, 플로베르의《감정교육》, 말론 브란도, 프랭크 시내트라, 세잔느의 사과와 배들, 샘 우의 게들, 그리고 마지막으로, 명배우이자 그의 연인인 트레이시의 얼굴 ….

우리들 각자는 자기나름의 소중한 것들을 갖고 있다. 그것들에 대해 마음을 쓰면서 우리는 우리의 인간성의 본질을 확인한다. 궁극적으로, 소중한 것들을 보살피고 아낄 수 있는 우리의 커다란 능력 때문에 나는 우리가 우리 앞에 닥친 위험한 문제들에 맞설 수 있으리라고 낙관한다.
내가 지금 당장 희망하는 것은 여기서 제기된 문제들에 관하여 테크놀로지 그 자체에 대한 두려움이나 애착에 기울어지지 않은 분위기에서 다양한 배경을 가진 사람들과 좀더 큰 토론을 마련하여, 거기에 참여하는 것이다.
우리가 배워야 할 것은 많다. 우리가 성공할지 실패할지, 테크놀로지들의 희생자가 될지 어떨지는 아직 결정되지 않았다. 나는 다시금 밤늦게까지 앉아있다. 지금 거의 새벽 6시가 되었다. 나는 좀더 나은 해답을 찾아보려고 노력하고 있다.
 
 
글쓴이 정보
빌 조이

 

 

 

인간과 기계의 결합, 축복일까 위기의 시작일까 - 테크M

우리의 기술과 도구는 늘 우리를 확장했다. 불을 이용해 음식을 섭취하면서 소화와 씹는 기능은 약화됐지만 턱 관절이 변형되어 언어발성에 더 좋은 구조로 변화하고 에너지를 뇌에 공급했다.

www.techm.kr

 

인간과 기계의 결합, 축복일까 위기의 시작일까

 


우리의 기술과 도구는 늘 우리를 확장했다. 불을 이용해 음식을 섭취하면서 소화와 씹는 기능은 약화됐지만 턱 관절이 변형되어 언어발성에 더 좋은 구조로 변화하고 에너지를 뇌에 공급했다.

인류의 계통을 보면 ‘사람속’에 해당하는 ‘호모’로 시작하는 구성원은 200 만에서 250만년 전 등장한다. 호모 하빌리스, 호모 에렉투스, 호모 하이델베르긴스로 진화해 유럽에서는 네안데르타르인이, 아프리카에서는 해부학적 현생 인류인 호모 사피엔스가 나타난다.

호모 사피엔스는 사회적 뇌라고 부르는 신피질의 발달에 힘입어 뛰어난 사회성과 협력능력을 개발했고 현재 지구의 최강자가 되어 있다. 인류가 만들어낸 많은 도구는 우리의 능력을 확장하고 이를 기반으로 새로운 사회 시스템을 만들어내며, 제한된 생물적 기능을 크게 강화하는 방향으로 발전해왔다.

(록히드 마틴의 포티스 [사진: 록히드 마틴])


도구는 늘 인간을 확장해왔다

인간 중심의 인본주의, 합리주의, 이어서 실용주의가 세계 문화를 이끌면서 20세기에 들어와 급속히 발전하는 기술과 과학이 이들과 결합, 인간과 사회의 진화를 낙관적으로 바라보는 기술 만능주의 시각이 널리 퍼졌다.

인류가 생물학적으로 진화하는 데에는 수만 년도 부족할 수 있지만, 우리가 가진 기술과 과학이 인류에게 새로운 진화 방식을 제공할지 모른다는 생각은 새로운 사상과 사유를 불러들였고 이에 대한 긍정과 우려의 목소리가 함께 증가하고 있다.

특히 최근 인간 지능을 넘어서는 기계 지능이나 초지능의 출현 가능성에 대한 논의가 활발해지면서 초인본주의 사상인 트랜스 휴머니즘이나 포스트휴머니즘, 인간의 확장에 대한 얘기가 많은 미디어와 학자들의 관심을 끌고 있다.

트랜스휴머니즘의 기본적 아이디어는 1923년 영국 유전학자인 할데인이 그의 에세이에서 첨단 과학을 인간 생물학에 적용함으로써 얻을 수 있는 거대한 혜택을 예견하면서 시작했다고 본다.

이후 줄리안 헉슬리가 1957년 ‘트랜스휴머니즘’이라는 글을 통해 인류 전체가 원한다면 자신을 초월할 수 있을 것이라는 주장을 해 큰 영향을 미쳤고 트랜스휴머니즘의 창설자로 인정받는 계기가 되었다.

1998년 철학자 닉 보스트롬과 데이비드 피어스 등이 ‘세계 트랜스휴머니스트 연합(WTA, 2008년 휴머니티 로 명칭 변경 )’을 결성, 트랜스휴머니스트 선언을 하면서 트랜스휴머니즘을 두 가지로 정의했다.

1. 노화를 제거하고 지능, 육체, 정신을 크게 개선하기 위한 기술을 개발하며 이성의 응용으로 인간 조건 개선의 가능성, 정당성을 지지하는 지적 문화적 운동
2. 인간의 근본적 한계를 극복하기 위한 기술의 잠재적 위험, 결과 및 가능성을 연구하며 이같은 기술의 개발과 사용에 관한 윤리 문제를 연구20세기 이뤄진 많은 과학적 진보는 인간 진화의 새로운 방식에 대해 많은 SF 소설이나 영화의 소재가 됐다.

또 인공 지능 기술에 대한 기대는 인간의 능력을 넘어서는 초지능 기계 등장에 대한 가설을 쏟아냈다. 이미 1965년 암호학자 어빙 굿은 ‘지능 폭발’이란 개념을 통해 초지능 기계가 인류가 만들어내는 마지막 발명이 될 것이라고 예언했다.

그러나 레이 커즈와일처럼 기술 특이점을 말하는 사람들은 기술을 통한 인류의 새로운 진화 방식에 대해 관심을 더 가졌고, 작가이자 미래학자인 FM-2030은 새로운 인간이 가지는 기술과 라이프 스타일에 대해 정의하기 시작했다.

버너 빈지가 ‘다가오는 기술적 특이점(1993)’이란 논문에서 생명 공학과 신경 공학, IT 기술의 발달로 30년 이내에 인류의 지능을 초월하는 인공 지능이 출현해 인간 시대가 종언을 맞을 것이라고 예언해 특이점이라는 단어가 알려지기 시작했다. 또 2006년에는 레이 커즈와일이 ‘특이점이 온다’ 를 발간, 많은 사람들이 이 주제를 논의하게 됐다.

커즈와일은 2045년을 기술적 특이점에 도달하는 해로 설정해 기술의 진보가 인간이 더 이상 이해할 수 없는 수준으로 빠르게 발전할 것임을 천명했다. 특이점 주의자들은 우리가 거의 영생에 가까운 삶을 살 수 있고 인간은 새로운 종으로 진화할 것이라는 기술 유토피아적 사상을 갖고 있다. 또 이의 실현이 30년 정도 후에 가능할 것이라고 주장한다.

(스위스 취리히에서 열린 사이배슬론 행사 장면 [사진: ETH])


기술을 통한 인간의 확장

지금 사람들이 즐겨 사용하는 스마트폰은 우리 기억을 외부에 확장시킨 도구다. 이제 사람들은 더 이상 전화번호나 일정을 기억하지 않는다. 학자들을 이를 인간의 외부 기억 공간 또는 ‘외부피질 (exocortex)’ 이라고 말한다.

1960년대 미국 DARPA(고등연구계획국)의 책임자였던 심리학자 조셉 릭라이더는 ‘인간-컴퓨터 공존(1960)’이란 논문에서 인간과 컴퓨터가 강하게 연결되면 서로를 보완해주는 역할을 하면서 인간의 뇌가 전에는 불가능하던 수준의 사고를 하고 정보를 처리할 수 있을 것이라 주장했다. 그는 사이버네틱스와 인공 지능의 후원자였고 인터넷의 전신인 아르파넷의 연구를 지원했다.

사실 인간이 발명한 다양한 기호와 문자를 통한 정보의 저장, 수학은 모두 인간의 마음을 기능적으로 재정리하는 외부 기호 시스템이며 기억 능력의 외부화이다.

구글의 글래스나 최근 관심을 끄는 홀로렌즈, 가상 현실 기기, 나아가 스냅챗의 스펙터클스 조차 우리의 기능을 확장하고 경험의 수준을 새로운 세계로 나아가게 만드는 기기라고 할 수 있다.

군사 목적을 위한 인간의 확장은 다양하게 이뤄져왔다. 엑소스켈레톤은 하인라인의 SF소설 ‘스타쉽 트루퍼스(1959)’에 이미 등장한다. 2010년 엑소 바이오닉스의 헐크 (HULC: Human Universal Load Carrier)나 사르코스/레이시온의 XOS, XOS2 모두 군인의 능력을 강화하는 엑소스켈레톤 슈트다.

하지만 이 제품들은 크기와 파워 소비 문제로 개발이 보류됐다. 헐크는 배터리를 통한 자체 전원 공급을 구현했지만 큰 소음이 문제였다.

이후, 초기 모델을 개선하고 단순화해 모터나 전자 장치가 없는 패시브 엑소스켈레톤인 iHAS가 개발돼 작업장이나 산업체에서 사용 가능성을 확인하고 있다. 이 분야에는 록히드 마틴의 포티스, 혼다의 몸무게 지원 기기 등 지지 장치나 강화된 글로브, 로봇 팔 등이 있다.

엑소스켈레톤은 장애가 있는 사람들이 걷게 하거나 불가능했던 움직임을 가능하게 만드는 영역에서도 의미 있는 결과를 보이고 있다. 최근 스위스 취리히에서는 세계 최초의 사이배슬론이 열렸다.

장애가 있는 사람들을 지원하는 기술을 기반으로 다양한 경기를 함으로써 인간을 지원하는 기술의 현재를 살펴보는 행사다. 스위스 취리히대학의 로버트 리너 교수가 주도해 만들어졌으며 스위스 국립 ‘로봇역량연구센터’가 주최한다. 슈퍼 장애인 올림픽이라고 부르기도 한다.

인간과 기계의 연결은 ‘브레인 컴퓨터 인터페이스(BCI)’라는 영역에서도 여러 가지 흥미로운 결과를 보여주고 있다. 뇌파를 통한 로봇 팔의 제어, 원숭이 뇌를 이용한 타이핑, 생각으로 조정하는 드론, 생각으로 제어하는 로봇 등 수많은 연구 결과가 계속 쏟아져 나온다.

이는 인간의 확장이 생각과 기계가 연결되는 수준으로 이루어지면서 인공지능과 인간의 결합에 한 걸음 다가가는 계기가 될 것이다.

뇌와 기억에 대한 연구가 진전되면서 학습능력을 높이거나 정보를 뇌에 직접 이식하려는 연구도 진행되고 있다. 미국 캘리포니아의 HRL연구소는 훈련된 조종사의 두뇌에서 얻은 전기 신호를 비행을 배우는 초보자에게 전달, 훈련효과가 33% 개선됐다는 논문을 발표했다.

앞서 2011년에는 보스턴대학과 일본 쿄토의 ATR계산뇌과학연구소가 fMRI를 분석하면서 특정 시각적인 면을 유도해 시각 기능의 성과를 개선할 수 있음을 보여줬다.

이를 통해 전체 뇌 영역에서 활동을 제어할 수 있도록 훈련이 가능하다는 것을 시사했다. 이는 우리가 매트릭스 영화에서 봤던, 쿵푸나 헬리콥터 조정법을 바로 두뇌로 다운로드시키려는 미래의 도전으로 나아가기 위함이다. 2013년 MIT의 뇌과학자들이 쥐를 이용해 거짓 기억을 뇌에 심는 것이 가능하다는 것을 보였다.

이와 같은 연구들은 우리의 지적 능력을 강화할 수 있음을 보여준다. 또 기억에 대한 보다 명확한 이해를 통해 장기적으로 마인드 업로딩으로 가는 길을 찾아내려고 한다.

마인드 업로딩 또는 전체 두뇌 에뮬레이션(WBE)이라고 하는 분야는 우리 정신의 상태를 컴퓨팅 장비로 복사할 수 있다는 가설을 입증하려는 시도다. 이런 장비는 현재의 컴퓨터를 넘어서 양자 컴퓨터나 소프트웨어 기반의 인공 뉴럴 네트워크를 포함한다.

트랜스휴먼 연구의 핵심 중 하나인 마인드 업로딩은 인간 삶의 확장이고 또 다른 의미의 영생을 말하기도 한다. 내 마음의 상태를 어떤 휴머노이드 로봇에 업로드 함으로써 생물학적 인간의 한계를 극복하고, 우주 여행이 가능하도록 할 수 있다는 장기적인 비전인 것이다.

 
(사이배슬론에 선보인 BCI [사진:ETH])


우려의 목소리와 비판

트랜스휴머니즘에 가장 강력한 반대의 의견을 표현하는 사상가 중 한 명이 프란시스 후쿠야마이다. 2004년 ‘포린 폴리시’의 특집 ‘세상에서 가장 위험한 생각들’을 통해 그는 트랜스휴머니즘을 그 중 하나로 꼽았다.

그가 주장하는 문제의 첫 번째는 인간 평등의 원칙이 무너진다는 것이다. 평범한 사람을 능가하는 트랜스휴먼이 등장하면 그들의 권리나 남겨진 사람의 권리는 어떻게 될 것인가? 부유한 사람만이 그런 기회를 갖는 것이 과연 온당한 것인가? 등의 질문은 제리 카플란이 ‘인간은 필요 없다’에서 제기한 문제이다.

인간 평등을 위협하는 아이디어는 훨씬 악의적일 수 있다. 더구나 강화된 인간과 일반 인간이 스포츠, 투자, 시험, 사업에서 경쟁하는 것이 합당한지 우리의 기준을 만들어야 한다.

또 다른 문제는 장애가 없는 사람이 자기 몸의 일부를 보다 기능이 좋은 기기로 교체하고 싶어할 것인가 하는 점이다. 재력이 있는 사람이 의도적으로 문제가 없는 신체를 더 강력한 모듈로 갈아 치우는 것을 윤리적으로 허용할 수 있는지 우리는 아직 논의하지 못하고 있다.

두번째로 인간의 확장을 주장하는 사람들이 과연 어떤 인간이 좋은 인간인지 이해하고 결정할 수 있는가 하는 점이다. 인간 사회의 선을 자신들이 이해한다고 주장할 수 있을 것인가? 인간은 훨씬 더 복잡한 진화의 산물이고 우리는 부분의 합보다 훨씬 더 많은 것을 가진 전체다. 또 때로는 선과 악이 양면성을 갖는다.

많은 트랜스휴머니스트나 인간을 넘어서는 기계 지능의 탄생을 얘기하는 미래학자들의 가정은 기술의 진보가 지수 함수적으로 빠르게 이뤄진다는 생각에서 출발한다. 그러나 이를 지수 함수의 오류라고 비판하는 사람들이 있다.

영국의 물리학자인 폴 데이비스는 자원의 한계로 지수 함수적 발전은 지속될 수 없다고 주장한다. 미래학자이며 물리학자인 씨어도어 모디스 역시 순수한 지수 함수를 따르는 것은 자연에 없으며 실제는 로지스틱 함수라고 말한다. 처음에는 지수 함수적으로 증가하는 것처럼 보이지만 곧 평평한 부분과 한계에 달하는 S 커브를 주장하는 것이다.

커즈와일의 특이점 주장이 종교에 가까운 신념이라고 비판하는 사람들도 많다. 유대-기독교의 종말 시나리오에 가깝다고 보는 것이다. 두뇌에 대한 역 공학적인 면에서 보더라도 데이터 수집은 지수 함수적으로 일어나겠지만 통찰은 단지 연속적으로 이루어진다고 지적한다(뇌과학자 데이비드 린덴). 예를 들어, 유전자에 대한 데이터 확보는 급증하지만 유전학에 대한 이해는 매우 느리게 이루어지는 것과 같다.

마인드 업로딩 역시 존재론적 질문을 피할 수 없다. 내 마음을 다 옮긴 어떤 장치나 존재는 나와 같은 것인지 아니면 또 다른 버전인지 우리는 알 수가 없다. 인간성은 어디까지 적용할 수 있는 개념일지, 내 기억의 일부가 남의 기억이나 조작된 정보로 이루어진다면 그 것은 나의 정체성에 어떤 문제를 일으키는 것인지 아직 알 수가 없다.


인간과 기계의 결합, 피할 수 없나

영국 왕립학회장을 지낸 마틴 리스는 인간과 같은 ‘유기적 지능에게는 장기적인 미래가 없다’라는 글에서 지구의 운명을 볼 때, 인류가 아닌 기계 지능이 우주의 영역으로 확장하는데 더 적합하고, 지금과 같은 유기적 인간 문명은 잘해봐야 수만 년 지속이 한계일 것이라 예측했다.

하버드대 천문학자 디미타르 사셀로프는 인공 지능은 생물학과 기계의 하이브리드 형태로 진화하며 결국 ‘우리와 그들’의 구분은 필요하지 않을 것이라고 말했다. 태양의 팽창에 의해 지구를 탈출할 존재는 우리가 아니라 그들이 될 것이기 때문이다.

인간이 아닌 인공지능이 외부 행성을 식민지화할 것이고 이를 위해 인간 업로드를 실행해 인공지능이 우리를 구원하게 해야 한다는 주장도 있다(프랭크 티플러 튤레인대학 수리물리학 교수).

즉 인간과 기계의 결합과 새로운 존재의 탄생은 장기적 관점에서 보면 자연스러운 진화이고, 당분간 그 결과가 인간의 제어를 통해서 이루어질 것이며, 나중에는 이성과 합리성을 가진 존재가 될 것이란 전망이다.

그러나 단기적으로 우리가 생각할 주제 중 하나는 강화된 또는 확장된 인간이 사는 사회에서 어떤 규칙과 규범이 필요한 것인가 이다. 더 중요한 것은 인공 지능으로 무장한 어떤 존재, 소프트웨어나 로봇과 함께 공존하는 문제일 것이다.

인간의 확장이 지식 정보뿐만 아니라 물리적 능력의 확장, 또는 확장된 자아인 동반자(companion) 로봇 같은 독립된 개체로 이루어진다고 하자. 그렇다면, 그런 존재에 대한 법적 권리와 의무는 어디까지 구체적으로 규정해야 하는가에 대해서 이제 본격적으로 논의해야 한다.

애플의 시리, MS의 코타나, 아마존의 알렉사 같은 가상 비서의 경우도 점점 나의 정체성을 습득하거나 개인화가 이루어지면 결국 그것은 나의 확장일 것이다. 또 내가 사용하는 소셜 로봇 역시 나의 확장의 범주에 들어갈 것이다. 그들이 갖는 권리와 책임은 어디까지 허용되는 것일까?

기술 발전이 인간의 확장으로 전개되는 것은 자연스러운 것이지만, 그것이 과연 새로운 인간 진화의 과정이 되고, 우리가 새로운 종으로 진화하면서 트랜스휴먼 또는 포스트휴먼의 시대로 넘어가는 것인지는 아직 누구도 단정할 수 없다.
그러나 그럼에도 불구하고 그 중심은 여전히 인본주의를 기반으로 해야 하고, 그렇지 않다면 그건 우리 인류의 종말을 의미하는 것이라고 주장할 수 있다.
반대로, 우리의 존엄성조차 긴 미래 관점에서 보면 중요한 점이 아니고 모든 것이 자연스러운 진화의 과정이라는 주장도 있다. 인간 존재의 존엄성을 우리가 계속 유지할 것인가 또는 유지할 수 있는가는 이제 가까운 장래에 우리들의 결정에 달려 있을 수 있다.

<이 기사는 테크M 제43호(2016년 11월)에 실린 기사입니다.>

 

 

반응형