[Opinion] 로봇은 인간을 위협할 수 있을까 [도서/문학]
-
“미래에는 인류가 로봇한테 정복당할 수도 있다는 경각심을 주는 영화”
어린 시절, 윌 스미스 주연의 영화 <아이, 로봇>을 본 나의 감상은 저러했다. 로봇에게 모든 편의를 받으며 편하게 살아가는 미래. 주인공만이 유일하게 AI의 수상쩍은 행동을 의심하며 살인사건을 파헤친다. 영화 후반에는 인간의 명령을 거부하는 로봇, 그리고 그 위에서 명령하고 있던 슈퍼컴퓨터가 악당처럼 나온다. 과학기술의 양면성을 보여주는 영화였지만 당시 어린 나에게는 머나먼 미래에 대한 두려움을 심어줬던 것 같다.
최근에야 이 영화가 로봇공학의 3원칙으로 유명한 아이작 아시모프의 소설을 바탕으로 제작됐음을 알았다. 가뜩이나 AI와 관련된 윤리, 사회적 문제가 대두되고 있는 요즘, 나는 영화 <아이, 로봇>을 다시 떠올릴 겸 원작을 읽어 보기로 했다.
로봇의 작동 원칙을 생각해낸 아이작
아이작 아시모프의 원작 소설 <아이, 로봇>은 내용이 다른 것뿐 아니라 로봇과 인간에 대한 관점 자체가 달랐다. 소설에서 등장하는 모든 로봇은 다양한 문제와 돌발사고를 일으키지만 결국은 로봇공학의 3원칙에 따라 제어할 수 있었다. 작중 매 에피소드에서는 인간이 개발했지만 ‘양전자 두뇌’의 복잡성과 로봇 공학 원칙의 적용 비율에 따라 예상치 못한 사건이 발생한다.
하지만 과학자, 수학자, 그리고 로봇 심리학자 수잔의 지적 탐구, 연구 과정에 의해 원인은 밝혀진다. 인간이 로봇의 양전자 두뇌 안에서 어떤 과정이 일어나는지 하나하나 다 따라갈 수는 없어도 이성과 과학으로 통제할 수 있을 거라는 아시모프의 가치관이 느껴졌다.
아시모프는 어떻게 저런 믿음을 가질 수 있었을까? 나는 어린 시절부터 컴퓨터, 휴대폰과 같은 디지털 기기를 사용하며 컸고 지금은 로봇 청소기부터 시작해 인공지능 시리까지 다양한 형태의 AI와 함께하고 있다. 과학기술의 편리함을 더 가까이에서 누리며 살고 있지만, 오히려 로봇에 대한 경각심은 더 강한 것 같다.
반면에 그가 소설을 집필하던 때는 1940년대. 그 당시 접할 수 있는 로봇은 공장의 컨베이어 벨트나 장난감 형태의 아주 작은 로봇이 전부였지만 아시모프가 상상해낸 로봇들은 지금까지도 현실화하지 못한 게 많을 정도로 획기적이다. 그런데도 과학과 이성에 의해 선한 로봇의 정체성(원칙)이 유지될 것이라는 믿음은 책의 처음부터 끝까지 관철된다.
이성을 근거로 풀어낸 따듯하면서도 냉철한 이야기
처음에 나는 이러한 그의 생각이 과학기술에 대한 지나친 긍정주의로 느껴졌다. 그의 상상력과 과학에 대한 관심, 필력이 대단하고 멋지지만, 오히려 정말 발전된 로봇을 가까이서 경험해보지 못한 시대이기에 그 위험성이 와 닿지 못한 게 아닐까? 하는 의문이 들었다. 지금의 우리는 다양한 로봇의 영향을 받으며 살고 있기 때문에 로봇의 양면성을 살갗으로 느낄 수 있고 그렇기에 부정적인 시각을 가지는 게 자연스럽다고 생각한 것이다. 하지만 <아이, 로봇> 속 에피소드를 한 번 더 차근차근 읽고 나니 이내 그 생각은 바뀌어 갔다.
<로비_소녀를 사랑한 로봇>에 나오는 유모 로봇 로비는 자신에게 입력된 정신 구조와 목적에 따라 글로리아에게 다정하고 충직한 존재가 된다. 커다란 몸집에 철판 떼기의 피부를 가진 딱딱한 존재여도 소녀를 달래 주고 기분을 맞춰줄 줄도 아는 친구이자 유모였다. 그러나 그녀의 엄마는 로비의 안전성을 의심해 딸과 로비를 갈라놓는다.
동네 마을 사람들이 로비를 안 좋게 생각한다는 이유까지 들먹이며 로비의 존재를 거부한 이 이야기에서 나는 진정한 문제가 어디에 있음을 조금씩 느꼈다. 우리가 불신하는 것은 로봇의 원칙 그 자체라기보다는 로봇을 만든 사람이 아닌가 하는. 불완전한 존재인 사람이 만들었기 때문에 로봇 역시 심각한 오류가 발생할 수 있는 불완전한 기계로 보이기 때문에 의심하고 조심하는 것이다.
또한 과학자가 좋은 의도로 로봇을 만들었어도 그 의도와는 다른 결과가 나올 수 있다는 불안 요소도 있다. <스피디_술래잡기 로봇>에서 수성 탐사대 로봇이었던 스피디는 셀레늄을 구해오라는 인간의 간단한 명령을 수행하지 못하고 셀레늄 웅덩이만 뱅글뱅글 돈다. 도노반은 스피디가 로봇이 제 할 일을 못 한다고 분노하고 미쳤다고 생각했다.
그러나 사실은 비싼 몸값인 스피디가 쉽게 파괴되지 않도록 설정값을 조절한 게 문제였다. 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다는 제3원칙을 강하게 주입한 것이 충돌을 일으킨 것이다. 로봇공학 원칙으로 해결한 문제였으나 거꾸로 말하자면 로봇공학 원칙의 강도를 인간이 임의로 바꾼 것에서 일어난 문제가 된다. 또한 그 점을 고려하지 않고 일반적인 명령을 내린 인간의 책임도 있다. 로봇은 정확하게 입력한 값을 주어진 식에 따라 결괏값을 낸다. 그것은 과학적이고 수학적이며 이성을 갖춘 인간들이 여러 검토를 통해 세운 식이기 때문에 오류가 나지 않는다. 로봇의 오류는 인간의 명령, 조작에서의 변수 때문에 발생하는 것이지 로봇의 성능 결함이나 지능의 문제가 아니라는 것.
아시모프가 로봇의 문제는 로봇공학 3원칙으로 해결할 수 있는 플롯으로 모든 이야기를 풀어나간 것은 바로 이 포인트가 아닌가 싶다. 로봇의 오류는 AI가 스스로 자기 발전을 하고 끝내 인류 지배까지 가는 문제가 아니라 인간의 조작 과정에서 발생한 문제이기에 해결할 수 있다는 것이다. 즉 인류가 수많은 시간 동안 일궈온 학문과 지식의 힘(이성, 과학)이 강하다고 생각했기에 아시모프만의 따뜻하면서도 냉철한 서사가 나올 수 있었던 것 같다.
로봇 이야기에 공감하는 인간
<아이, 로봇>이 세상이 나온 지 60년이 넘어도 좋은 작품으로 회자하는 이유는 저런 상상력과 재미있는 스토리도 있지만, 로봇의 다양한 모습을 주제로 삼은 점도 있다고 본다. 소녀를 사랑한 로봇 로비에서 우리는 사랑과 정을 느끼고, 생각하는 로봇 큐티로는 논리에 집착하는 오만한 모습에 혀를 차게 된다. 부하를 거느린 로봇 데이브가 돌발상황이 발생했을 때 부하 6대를 모두 다루기 힘들어 버벅거리며 춤추는 이야기에서는 사람다운 면모를 가진 것 같아 괜한 동질감과 웃음이 나온다. 마음을 읽는 거짓말쟁이 허비에게서는 뒤통수 받은 듯한 충격을 받고, 내 주변 누군가에게 당한 기억도 떠오른다.
로봇들의 여러 모습이 결국은 인간을 닮아 있다. 당시 로봇이라면 공장의 기계처럼 인간의 노동을 대신하는 것에 불과했기 때문에 인간의 선함, 악함, 우스꽝스러움, 지성 등의 입체적인 성격을 로봇에게 대입한 것은 센세이션 했을 것 같다.
무엇보다 로봇공학 3원칙에 따라 인간에게 선이 되는 방향으로 행동하는 로봇에게 앞서 말한 인간의 성질이 반영되었을 때, 우리는 그 결과를 예측할 수 없어서 더 재미있는 요소가 됐다.
<하비_마음을 읽는 거짓말쟁이>에서는 경계심이 높고 냉정한 수잔 박사마저 하비의 농간에 넘어가 버렸다. 하비의 입장에서는 제1원칙 인간에게 해를 입혀서는 안 된다는 것에 근거해 마음 아파하는 인간에게 거짓말이라도 얘기해 아파하지 않게 한 것이다. 하비가 마음을 읽고, 등장인물들을 위로해주고 격려하는 모습은 사람이 사람의 마음에 공감하는 “정”을 떠올리게 한다. 하지만 마음의 상처도 ‘해’를 입힌다는 설정으로 이 이야기는 섬찟한 존재에 대한 공포와 혼란으로 바뀐다. <아이, 로봇>에는 짧은 이야기 안에도 반전 스릴 스토리가 있다.
인간적인 행동이 드러나는 챕터로는 <네스터 10호_자존심 때문에 사라진 로봇>을 꼽고 싶다. “창피합니다…… 저는 아닙니다……저는 지적인 존재입니다…… 그런데 주인님은…… 저보다 약하고……느린데……” 라고 말하며 한순간 인간을 해치려고도 했던 네스터10호.
이 로봇은 자신이 로봇공학 3원칙이 수정된 모델임을 들키지 말라는 명령을 지키기 위해 몇 달간 학자들과 끝없는 두뇌 싸움을 하다 끝끝내 졌다. 읽는 내내 두뇌싸움 추리물 같은 기분이 들어 재미있었는데 네스터 10호의 마지막 모습은 마음이 조금 씁쓸하게 했다. 자신의 소임을 지키지 못한 것에 좌절과 분노, 그리고 패배감을 느끼는 모습은 무엇보다도 인간다운 행동이었기 때문일까. 자존심이 무너진다는 건 수치스러운 밑바닥과 같은 부분이라 그런지 동정과 공감이 함께 이는 에피소드였다.
로봇은 우리를 위협하는 존재인가
이 소설이 다른 로봇공학 소설과 가장 다르고 독특한 점은 바로 수잔 캘빈이라는 인물이다. 대게 로봇이 세계의 주도권을 가지는 세상에 대해 우리는 “인간의 패배”, “치욕스러운 가정”이라는 부정적인 생각이 있다. 하지만 로봇 심리학자 수잔은 그 반대다. “만일 로봇이 공직 생활을 해도 된다면 정말 훌륭한 공직자가 될 거예요. 로봇의 기본 원칙 때문에 인간에게 해를 끼칠 수 없고, 독재나 부정부패는 물론이고 멍청한 편견도 갖지 않을 테니까요.”
수잔의 이 발언은 내 머리에 댕-하고 무언가를 울려 주었다. 책을 읽으며 로봇의 정치에 대해서는 나 역시도 ‘로봇이 인간보다 더 나은 존재로서 인간을 지도한다’는, 패배하는 기분이 들 것 같다고 생각했기 때문이다. 그녀의 말은 사실 틀린 게 하나 없다. 하지만 소설 속 인간들은 로봇이 높은 자리에 올라서기를 극구 거부한다. 로봇 정치인들이 권력자로서 떵떵거리며 인간들을 괴롭힐 게 아니라 지역 주민을 위해 일할 것임에도 인정하지 못한다.
우리는 우리 인간들에 대해 과한 자신감을 지니고 있었음을 <피할 수 있는 갈등>에서 더 깊게 깨달을 수 있었다. “사실 인류는 주도권을 가져 본 적이 한 번도 없어요. 잘 알지도 못하는 다양한 사회 현상과 경제 현상, 변덕스러운 날씨와 전쟁의 운에 따라 늘 좌지우지되었지요……”
수잔은 인류의 주도권을 로봇에게 뺏길 수 있다는 조직의 주장에 대해 이렇게 말했다. 슈퍼컴퓨터가 인간들 하나하나가 아닌 인류 전체의 행복을 위해 모든 것을 통제한다는 것에 대해 놀랄 때가 아니었다. 극도로 발전한 로봇은 오히려 공명정대한 세상을 만들 수도 있다.
인간들은 로봇을 열등한 존재로 여기면서 로봇 덕분에 전쟁 같은 갈등 없이 살고 있다면 우리는 로봇의 행동은 비난하고 배척할 명분이 없는 게 아닌가. 슈퍼컴퓨터가 지시하는 세상이 가장 훌륭한 세상일지도 모른다는 수잔의 발언은 인간과 로봇 존재의 갈등의 핵심은 로봇의 똑똑함 때문이 아니라는 것을 얘기한 것처럼 내게 들려왔다.
과학의 올바른 활용은 결국 인간의 몫
과학은 계속해서 발전하고 있는데 사람들의 마음은 과학은 따라가지 못하고 있다. 특히나 내가 사는 지금 이 시대부터 앞으로는 더더욱 그러할 것이다. 나 역시 급속한 개발과 성장이 하루아침에 일어나는 요즘을 살기에 과학 기술 맹신에 대한 걱정을 해왔다. 하지만 다시 한번 생각해본다. 내가 걱정하고 믿지 못하는 건 기술이 아니라 기술을 만들고 활용하는 인간이라는 것을.
물론 모든 문제를 과학으로 해결할 수 있다고 외치며 세상에 나갈 준비가 되지 않은 기술과 로봇을 선보이는 것도 자제해야 할 것이다.책의 제목은 <아이, 로봇>이지만 읽다 보면 궁극적으로 인간의 이야기임을 알 수 있다. 불완전하기 때문에 만들어 낸 완전한 존재가 인간의 불안감을 더 부추길 수도, 편안하게 해줄 수도 있음을 수잔이 로봇의 마음을 중심으로 이야기했기 때문에 더 생생하게 전달되었다.
인간은 한없이 연약한 존재이면서도 인간보다 훨씬 강인한 무언가를 창조하는 멋진 존재이기도 하다. 우리가 우리의 역량과 가치를 인정하고 올바른 제어를 한다면 아시모프의 <아이, 로봇> 속 세상보다 더 살기 좋은 세상을 살고 있을지도 모른다.
[이채원 에디터]<저작권자 ⓒ아트인사이트 & www.artinsight.co.kr 무단전재-재배포금지.>
위로
목록
