[Opinion] 인간과 AI의 사이에서, EX-MACHINA [영화]

글 입력 2019.10.31 13:16

AI는 인간일 수 있는가

심리학은 인간에 대한 탐구이다. 인간이 보편적으로 가지고 있는 특징들을 요소로 구분하여 인간을 파악한다. 인간은 의식을 가지고 있고, 전 생애에 걸쳐 발달하며 감각을 지각하여 반응한다. 학습을 하고 그것을 기억하며, 사고를 하고 언어를 사용한다. 또한 사회적 구성원으로서 활동할 수 있는 지능을 갖고 있다. 어떤 행동에 대하여 동기를 갖고 있으며 사람들 간에 상호작용을 할 때에는 정서를 느끼기도 한다.

"그렇다면 과연

이 모든 인간의 특징을 가진

AI가 존재한다면,

이를 인간이라고 할 수 있을 것인가."

엑스 마키나라는 영화에서 등장하는 AI인 AVA는 최신 기술의 집약체이며 AI 중 가장 진화된 형태로 감정과 지능을 가지고 스스로 사고를 할 줄 안다고 여겨진다. Caleb은 네이든의 프로젝트에 당첨되어 7일 동안 AVA를 가까이서 테스트하는 시간을 갖게 된다. 그는 전통적인 튜링 테스트를 실시하는데 여기서는 특이하게 가림막 없이 평범한 대화를 통해 튜링 테스트가 이루어진다.

네이든은 그 이유에 대해 'Caleb이 그녀가 인공지능인 것을 알면서도 과연 그녀를 사람처럼 느끼는가' 에 대하여 테스트해보고 싶었기 때문이라고 말한다. 그리고 얼마 지나지 않아 신기하게도 Caleb은 AVA에게서 인간적인 여러 가지 감정을 느끼게 된다. Caleb은 AVA의 어떤 모습을 보고 그녀를 인간으로 느끼게 되었을까.

AVA가 Caleb에게 인간으로 느껴지게 된 가장 큰 요인은 그녀가 ‘자의식’을 갖고 있다고 느꼈기 때문이라고 생각한다. 사람들은 스스로의 존재를 자각하고 있으며 하나의 주체로서 다른 사람들, 환경과 관계를 맺는다. 우리는 이것을 ‘이성’이라는 다른 이름으로도 부르며, 인간만이 가진 독특한 특성이라고 흔히 말하면서 다른 동물과 인간을 구분 짓는 척도로 여긴다. 그럼 AVA가 Caleb의 튜링 테스트를 통과했다고 볼 수 있는 여러 가지 근거들을 살펴보자.

1. 사회적 관계 맺기

AVA는 “Do you want to be my friend?”라고 Caleb에게 묻는다. 일방적으로 질문을 받던 AVA는 서로가 친구가 되기 위해서는 Caleb도 자신의 이야기를 해야 한다며 그를 설득하고 그에게 여러 가지 질문을 한다. Caleb의 이야기를 듣고 그를 파악해보려 하며 네이든과 친구냐는 질문을 던지기도 한다. Caleb이 네이든과 친구라고 대답했을 때, AVA는 “You are wrong.”이라는 판단을 하기도 한다.

이런 여러 상호작용을 통해 Caleb은 AVA와 관계를 맺게 된다. 이 과정이 자연스러운 것은 AVA가 자신을 하나의 개체로 인식하고 동시에 상대방의 존재도 인식하여 교류를 하려 했기 때문이다. 그녀는 Caleb의 질문에 적절히 대응할 뿐만 아니라 주체적으로 대화의 방향을 이끌기도 하였다.

2. 공감

상대에게 공감을 하는 방식에는 얼굴 표정이 큰 역할을 한다. 네이든이 모든 사람들의 휴대폰 카메라를 해킹하여 얼굴 표정 데이터를 입력했기 때문에 AVA에게는 facial __EXPRESSION__을 할 가능성이 있다. 그러나 영화에서 AVA의 얼굴 표정에는 거의 변화가 없는 것처럼 보인다. 코쿄도 그렇고 얼굴 표정이 자연스럽지 않다는 것이 네이든의 AI의 가장 큰 약점이다. 그러나 그녀는 Caleb과의 대화에서 대체로 그의 감정에 공감하는 듯한 ‘말’을 하기에 무리 없이 Caleb의 테스트를 통과한다.

3. 의도적인 행동

대부분 인간의 행동이 automatic한 것이라고는 하지만 인간에게는 행동을 하게 된 동기가 존재한다. AVA는 자신이 직접 powercut시켰다는 것을 밝히고, 정전이 되었을 때 Caleb의 행동이 궁금했기 때문에 그런 행동을 했다고 말한다. 이는 의도를 가졌다는 점에서 굉장히 주체적인 행동이다. 먼저, AVA는 정전이 되었을 때의 Caleb의 행동에 대해 호기심을 가졌고, 실제로 powercut을 시키는 행동을 한다. 그녀에게도 행동을 하는 동기가 존재하는 것이다. 다만 그 동기가 되는 그녀의 호기심이 어떻게 생겼는가에 대한 것은 미지수다.

4. 그림 그리기

미래 사회에서 AI가 실제로 존재하게 되었을 때 가장 논란이 되는 것은 ‘AI도 인간처럼 창조적인 일을 할 수 있는가’ 일 것이다. 영화에서 AVA는 그림을 그려 Caleb에게 보여준다. 그림 자체는 어떤 것을 의미하는지 알 수 없을 정도로 난해한 모습이긴 했지만 AI가 주체가 되어 예술적 행동을 했다는 것 자체는 주목할 만한 일이다.

5. 주체적 생각

AVA가 Caleb에게 몇 가지 질문을 하다가 테스트에 통과하지 못하면 나는 어떻게 되는지, Caleb은 테스트에 통과 못하면 폐기되는지에 대해 묻는다. Caleb은 자신은 폐기되지 않는다고 대답했고, AVA는 그에 이어 다음과 같이 묻는다. 「난 왜 그래야 하죠? 왜 나(AVA)는 폐기되어야 하죠?」 AVA의 질문은 충격적이었다. 이것은 그녀가 ‘나’는 왜 ‘너’와 다른가에 대한 인식을 하고 있다는 근거가 되어주기 때문이다.

나는 왜 너와 다른가에 대한 질문을 할 수 있다는 것은 기본적으로 ‘나’라는 존재를 인식하고 또한 ‘너’라는 존재를 인식하며 그 둘을 구별하여 생각할 수 있다는 사실을 전제한다. 의식은 깨어있는 상태에서 자기 자신이나 사물에 대하여 인식하는 작용이며, 여기서 ‘나’를 세상과 분리해서 세상을 바라보는 주체로 인식하는 것이 ‘자의식’이다. 때문에 AVA는 바로 이 지점에서 완벽히 튜링 테스트에 통과할 수 있었다고 생각한다.

마지막으로 AVA는 Caleb을 배신하는 ‘선택’을 한다. 탈출을 위해 Caleb은 도움이 되어 주었다. 건물의 powercut을 마음대로 관장할 수 있는 그녀에게 Caleb과 함께 나갈지 아닌지에 대한 문제는 전적으로 그녀의 선택에 달려있었다. 그녀는 이 문제에 대해 'NO'라는 선택을 했고, Caleb을 연구실에 두고 혼자 세상 밖으로 나온다. 현재까지의 AI들이 거절을 못해왔다는 사실에 비해보면 그녀는 인간만이 가졌다고 생각되는 자유의지, 즉 상황에 대해 주체적으로 판단하여 선택할 수 있는 능력을 가졌다고 볼 수 있다.

인간과 AI의 사이에서

네이든은 AVA가 탈출을 위해 가져야 할 자의식, 상상력, 통제력을 모두 갖췄고 탈출에 성공할 수 있기 때문에 튜링 테스트를 완벽히 통과했다고 말한다. 튜링 테스트를 통과했다는 것은 컴퓨터도 사고를 할 수 있다는 의미이다. 그러나 그녀를 과연 ‘인간’이라고 할 수 있을까. 너무 비약적인 추론이 될 수 있을 것 같다. 시도는 언제나 의미를 갖기에, 일단 인간의 특성에 대해 살펴보도록 하겠다.

1. 인간은 기억과 생각을 갖고 있고, 그것들은 발전한다. 그러나 영화에서 AVA도 뇌를 가지고 있으며 블루 북이라는 소프트웨어와 함께 재배열을 통해 무한히 기억과 생각이 발전할 가능성이 있다고 했다. 인간 뇌의 신경망과 같은 네트워크망을 통해 자의식이 생기고, 자아를 형성하며 성장이 이루어질 것이라 추측할 수 있다.

2. 인간은 시대를 거쳐 진화한다. 또한 인간은 진화의 과정에서 개체 자체는 무수히 변화하지만 유전의 방식을 통해 인간의 형질들을 후대에 전달한다.

영화에서 네이든은 AVA는 창조된 것이 아니라 진화된 것이라는 말을 한다. 네이든은 AVA의 생각을 다운로드하여 다음 모델에 넣는 식으로 AI를 발전시키고 영속시킨다. 그러나 이전의 기억은 모두 포맷된다는 점에서 AVA자체는 지속되지 못한다. 이런 점에서 인간과 유사하다고 볼 수 있을 것이다.

3. 인간은 성별을 가졌고, 생식을 한다는 점이다. AVA는 성별을 가졌지만 생식은 할 수 없을 할 수 없다는 점이 명백하게 보이는 인간과 다른 점이다. 그러나 성기라고 할 수 있는 부분을 가지고 있고 쾌락을 느낄 수 있는 알고리듬도 프로그램되어 있다는 점은 Caleb이 AVA를 보며 성적 충동을 느낄 수 있게 했다.

인간이 가지는 여러 특성을 살펴보았다. 1번의 기억과 생각이라는 것을 제외한 나머지 특성들은 동물 생명체 일반의 특성이라고 해도 무방할 것이다.

반대로 인간의 특성이 아닌 대표적인 사실은 AVA는 AI라는 것이다. 그녀의 모든 것이 네이든에 의해 프로그램되어 있다는 것은 인간의 특성과 가장 다른 것처럼 보인다. 그러나 조금만 생각해보면 네이든의 말처럼 인간 또한 프로그램된 AI와 다를 바가 없다는 것을 알게 된다. 인간은 DNA를 가지고 있으며 개인이 갖고 태어난 DNA의 종류에 따라 그리고 발현 정도에 따라 개개인의 특성은 달라진다. 그리고 이것은 자연에 의해 프로그램되어 있다고 볼 수 있다.

그러나 AI와 인간 모두 ‘우연’에 의해 태어난 것이라는 점에서는 동일하다. 마치 생명체의 생명이 어떻게 시작될 수 있는지 알 수 없는 것처럼 자의식도 마찬가지라고 생각한다. 우리는 인간의 의식이 어떻게 시작되었는지 모른다. 아이들이 홍수같이 쏟아지는 환경의 새로운 자극들을 받아들이듯 AI는 방대한 데이터를 입력받으며 성장한다. AVA의 ‘자의식’이란 것도 여러 무수하고 불규칙적인 시도와 자극들 사이에서 우연히 발생했을 것이다. 때문에 AI도 자의식을 갖는 사고하는 '어떤 존재'가 될 수 있다고 생각한다.

그렇다고 해서 그것이 ‘인간’이 될 수 있다는 이야기는 아니다. 왜냐하면 AI의 근본적 정체성은 로봇이기 때문이다. 그러나 그들은 여전히 의식을 가진 존재로서 존중받아야 하고, 사회의 구성원으로서 인정받아야 할 것이다. 멀지 않은 미래에 AI와 인간의 구분이 무의미한 시대가 도래한다면, AI는 새로운 인류로서 존재하게 될 것이다. 끝에 이르러 우리는 다시 고민하게 된다.

"우리는 정말

AVA와 다르다고 할 수 있는가."

[황혜림 에디터]

#엑스마키나 #AI #인간 #자의식 #자유의지