[PRESS] 인공지능은 우리의 사고를 멸종시키고 있는가

1. '사고의 외주화'가 주는 위기감

생성형 인공지능(LLM)의 효용은 단순히 결과물을 산출하는 시간을 줄여주는 데 있지 않다. 그것은 사고가 전개되는 속도 자체를 바꾼다. 이전에는 하나의 막연한 직관에서 출발해 개념을 찾고, 논리를 세우고, 반례를 검토하고, 다시 문장을 정리하며 하나의 결론에 도달하기까지는 원래 긴 시간이 필요했다. 생성형 인공지능은 이 중간 과정을 놀라울 정도로 압축한다. 몇 개의 단서와 불완전한 생각을 던지는 것만으로 그 사이의 연결을 보완하고, 사고가 향할 수 있는 여러 방향을 동시에 펼친다. 때로는 그렇게 만들어진 구조가 혼자 오랜 시간 쌓아 올린 결과보다 훨씬 정교하기까지 하다.

인공지능의 사용자가 출발점을 제시하고 방향을 수정하며 최종 결과를 판단한다고 해도, 그 사이에 놓인 수많은 연결과 논리적 계단 가운데 상당 부분은 이미 외부에서 제공된다. 이런 의미에서 생성형 인공지능은 완성된 답을 대신 내놓는 도구라기보다 사고가 이동하는 경로 자체를 압축하는 장치에 가깝다.

LLM을 범용적으로 사용하는 내게는 일종의 ‘뇌에 쓰는 안경’처럼 느껴진다. 안경이 나를 대신해 세계를 보지는 않지만 무엇을 얼마나 선명하게 볼 수 있는지를 바꾸듯, 생성형 인공지능 역시 생각의 방향을 완전히 대신 정하지 않으면서 사고가 뻗어나가는 속도와 범위, 도달 가능한 결과의 수준을 바꾸어놓는다. 한번 이 시야와 속도에 익숙해지고 나면 그것을 내려놓기도 점점 어려워진다.

사용자는 점을 찍고, LLM이 선을 그린다. 그렇게 완성한 그림을 사용자의 것이라고 할 수 있는가?

그런 점에서 『멸종 위기의 사고』라는 제목은 내게 쉽게 넘어갈 수 없는 문제를 건드렸다. '생성형 인공지능이 인간보다 좋은 결과물을 만들 수 있는가'보다 더 심란하게 만드는 것은, '이전에는 인간이 스스로 통과해야 했던 사고의 중간 과정이 점차 외부 시스템에 편입될 때 인간의 사고가 어떤 형태로 바뀌는가'라는 질문이다.

에릭 사댕은 서문에서 효율과 편의를 얻는 동안 인간이 자신이 직접 수행하던 판단과 표현의 영역을 조금씩 양도, 혹은 문제로부터 회피해왔다고 보고, 생성형 인공지능을 그 흐름이 이전과 비교하기 어려울 정도로 가속해서 거의 그 끝에 달했다고 본다. 더 빠르고 매끄러운 결과를 얻는 동안 자신의 역할이 줄어드는 상태를 기꺼이 받아들이는 ‘무기력하면서도 흥분된 개인’이라는 그의 표현은 책의 과장된 어조에도 불구하고 그다지 낯설지 않다.

그런데 책을 따라갈수록 사댕이 위기의 이름으로 호출하는 ‘인간성’ 쪽이 오히려 불분명해진다. 그는 베르그손의 ‘지속’을 통해 인간과 생성형 인공지능 사이에 근본적인 경계를 긋는다. 인간은 자신의 과거와 현재가 중첩되는 시간 속에서 살아가며, 경험과 기억이 축적되는 흐름 속에서 이전에 없던 것을 만들어낸다. 반면 생성형 인공지능은 방대한 데이터의 통계적 관계를 계산해 다음 표현을 산출한다. 그에게 인간의 언어가 살아 있는 언어라면 인공지능의 언어는 생명력을 갖지 못한 ‘유사언어’에 가깝다.

인간과 생성형 인공지능의 창조 조건이 다르다는 사실 자체에는 이견이 없다. 생성형 인공지능은 한 개인이 소유할 수 없는 규모의 데이터와 연산 능력을 바탕으로 움직이고, 인간은 제한된 육체와 불완전한 기억, 우연한 경험, 충동과 편견, 무의식적 연상에 묶여 사고한다. 인간은 잘못 기억하고 오해하며 필요 이상으로 특정한 것에 집착한다. 그러나 바로 그 불완전성이 사람마다 다른 가중치를 만들어내고, 같은 조건에서도 예상하지 못한 결과를 낳기도 한다.

이 차이는 충분히 흥미로운 분석의 대상이 될 수 있는데, 사댕은 이 책에서 너무 빨리 ‘생명(혹은 영혼)의 언어’와 ‘죽은 언어(타나톨로고스)’의 대립으로 옮겨놓는다. 인간의 언어에는 리듬과 직관과 생명이 있고 기계의 언어에는 확률과 반복만 있다고 말하는 순간, 인간성은 설명되어야 할 개념이라기보다 이미 보호해야 할 가치가 된다.

2. 인간과 기술을 분리하는 것 자체가 잘못된 질문이라면?-헤일스와 리우

바로 이 대목에서 N. 캐서린 헤일스의 『내 어머니는 컴퓨터였다』에서 접했던 ‘상호매개’라는 개념이 자연스럽게 떠올랐다. 헤일스가 묘사하는 인간과 기술의 관계는 어느 한쪽이 다른 한쪽을 침범하거나 대체하는 방식보다 훨씬 복잡하다.

새로운 매체는 기존의 언어와 문화를 일방적으로 파괴하지 않고, 서로 침투하고 변형하면서 함께 달라진다. 인간 역시 그 바깥에 고정된 채 남아 있는 존재가 아니다. 문자와 책은 기억을 외부로 돌렸고, 인쇄술은 지식과 논증의 형태를 바꾸었으며, 타자기와 워드프로세서는 문장을 생산하고 수정하는 방식을 변화시켰다. 인간은 완성된 상태로 기술의 외부에 서 있다가 어느 순간 기계에 의해 오염된 존재라기보다, 애초부터 매체와 환경의 피드백 속에서 자신의 사고 방식을 계속 다시 구성해온 존재에 가깝다.

생성형 인공지능이 이런 매체들과 아무 차이도 없다는 뜻은 아니다.

계산기가 연산을 외주화했다면 생성형 인공지능은 표현과 분석, 논리적 연결과 판단의 일부까지 담당한다. 기술이 사고의 결과뿐 아니라 사고의 과정 속으로 이전보다 훨씬 깊이 들어왔다는 점에서 분명한 변화가 있다. 다만 이 변화를 ‘본래적 인간의 훼손’이라고 설명하는 순간, 정작 새롭게 형성되고 있는 인간과 기술의 관계를 보지 못하게 될 가능성이 있다. 인간성이 사라지는지를 묻기보다, 인간과 기술의 결합이 어떤 새로운 형태의 사고를 만들어내고 있는지를 보는 편이 더 생산적이다.

이 책에서 드러나는 사댕의 '인간 언어'가 특히 불편하게 읽힌 것도 같은 이유다. 그는 생성형 인공지능의 확산과 함께 인간이 자기 말의 주체에서 밀려나고 있다고 본다. 직접 표현을 만들어내는 대신 기계가 제공하는 매끄러운 문장을 선택하고, 점차 표준화된 언어 속에서 사고하게 된다는 우려다. 문제는 이 서사가 인간이 이전에는 자기 언어의 온전한 주인이었다는 인상을 남긴다는 데 있다.

더 나아가 리디아 리우의 『프로이트 로봇』은 바로 그 전제를 훨씬 근본적인 층위에서 흔든다. 인간의 언어는 의식이 명령하는 대로 움직이는 투명한 도구가 아니다. 하나의 단어가 예상하지 못한 기억을 불러오고, 말실수가 다른 욕망을 드러내며, 반복과 치환이 자신조차 의도하지 않았던 방향으로 사고를 끌고 간다. 리우가 사이버네틱스와 정신분석을 겹쳐 읽는 과정에서 인간의 무의식은 기계와 정반대에 있는 신비로운 내면이라기보다 이미 상당한 자동성과 반복을 품은 회로처럼 나타난다. 기계라는 거울을 들여다보면서 오히려 인간 내부의 기계성을 발견하게 되는 셈이다.

흥미롭게도 사댕과 리우는 모두 에드거 앨런 포의 「도둑맞은 편지」를 호출한다(정확히는 사댕이 문제를 보지 못하고 넘어가는 부분에 잠깐 소환한 것에 가깝다.). 그런데 두 사람이 그 작품에서 발견하는 인간은 거의 정반대다. 사댕에게 이 이야기는 표면적인 정보의 배열을 넘어 상황 전체를 읽어내는 인간의 직관과 분석력을 보여준다. 반면 리우가 경유하는 라캉의 독법에서 편지는 인간에게 소유되는 수동적인 대상이 아니다. 편지가 누구의 손에 있고 어떤 위치에 놓이는지가 오히려 사람들의 행동과 관계를 바꾸며, 주체는 기호를 자유롭게 부리는 자라기보다 기호의 순환 속에서 특정한 위치를 부여받는다. 리우의 입장에서 보면 사댕이 생성형 인공지능으로부터 되찾으려 하는 ‘언어의 주권’ 자체가 이미 오래전부터 의심받아온 셈이다.

그렇다고 인간과 인공지능 사이의 차이가 완전히 사라지는 것은 아니다. 인간 역시 반복하고 연상하고 습관적으로 판단하지만, 자신의 신체와 기억과 욕망 때문에 끊임없이 이상한 방식으로 작동한다. 가장 합리적인 답보다 자신에게 필요한 답을 선택하고, 사실을 자신에게 유리한 방향으로 왜곡하며, 틀렸다는 것을 알면서도 특정한 생각에 매달린다. 『프로이트 로봇』을 읽으며 흥미로웠던 것도 인간을 기계와 반대되는 순수한 존재로 복권하는 대신, 자신의 회로를 완전히 벗어나지 못하면서도 그 회로를 비평적으로 바라보고 때때로 엉뚱하게 오작동하는 존재로 남겨두는 태도였다. 인간의 특별함을 굳이 이야기해야 한다면, 완벽한 자율성보다는 이런 불완전성과 편향, 자신의 작동방식에 다시 개입하는 가능성 쪽이 더 설득력 있게 느껴진다.

그러나 인간이라는 개념을 해체하는 것만으로 사댕이 제기하는 문제까지 사라지는 것은 아니다.

생성형 인공지능은 실제로 사고의 중간 단계를 빠르게 외주화하고 있다. 자료 사이의 관계를 찾고, 여러 가능성을 비교하고, 논리적 구조를 만들고, 문장을 조직하는 일까지 이전보다 훨씬 빠르게 외부에서 공급된다. 이 과정에서 직접 통과하지 않는 사고의 단계가 늘어난다면 그 과정에서 형성되던 기억과 판단의 능력 역시 영향을 받을 가능성이 있다. 아무것도 없는 상태에서 연결을 만들어내기보다 이미 제시된 연결 가운데 하나를 고르는 데 익숙해질 수도 있다.

동시에 그 압축 덕분에 이전에는 닿지 못했던 곳까지 갈 수도 있다. 하나의 문제를 이해하기 위해 기초적인 정리와 연결에 대부분의 시간을 쓰는 대신, 더 빨리 반론과 예외를 검토하고 다른 분야와의 관계를 탐색할 수 있다. 혼자서는 만들어내지 못했을 구조를 발판 삼아 그 이후의 사고를 계속할 수도 있다. 생성형 인공지능은 사고를 덜 하게 만드는 동시에 어떤 종류의 사고를 더 많이 가능하게 한다. 실제 사용 경험에서 가장 쉽게 확인되는 것도 바로 이 양면성이다. 사고 과정이 압축되면서 스스로 수행하던 작업은 분명 줄어드는데, 전체 사고의 범위와 결과물의 수준은 오히려 높아질 수 있다.

사댕의 ‘멸종’이라는 표현이 지나치게 빠르다고 느껴지는 이유도 여기에 있다. 외주화가 곧 소멸은 아니다. 사고의 일부가 기술에 넘어가는 동시에 인간이 사고할 수 있는 범위가 넓어질 가능성도 있으며, 무엇이 축소되고 무엇이 확장되는지는 아직 서로 얽혀 있다. 생성형 인공지능 이후의 사고를 이야기하려면 인간이 잃어버리는 능력만큼이나 새롭게 획득하는 능력과 역할을 함께 보아야 한다.

3. 여전히 남아있는 생존조건의 문제

노동의 문제에서는 이 양가성이 훨씬 직접적인 현실이 된다. 나는 사댕이 강조한 것처럼 번역가가 생성형 인공지능 때문에 이전과 같은 방식으로 일하기 어려워지는 것을 두고 인간의 숭고한 언어 능력이 침해당한다고 말할 필요는 없다고 본다.

기술은 언제나 직업의 형태와 범위를 바꾸어왔다. 그러나 전문 번역가가 생존하기 어려울 정도로 시장 전체가 재편되는 것은 다른 문제다. 좋은 번역을 만들고 무엇이 좋은 번역인지 판별하는 능력은 오랜 시간과 경험 속에서 축적된다. 비용을 줄이기 위해 인공지능이 만든 초고와 최소한의 감수만 남는 구조가 일반화된다면, 당장은 빠르고 저렴한 결과를 얻을 수 있어도 그 결과의 질을 평가할 전문성 자체를 장기적으로 소진할 수 있다.

이 문제는 낸시 프레이저와 라헬 예기가 『포식하는 자본주의』에서 설명한 자본주의의 자기포식적 구조와 더 가까워 보인다. 생산과 축적이라는 전경은 그것을 가능하게 하는 돌봄, 자연, 공공성 같은 배경조건에 의존하면서도 그 배경을 끝없이 소진한다. 생성형 인공지능이 인간이 축적해온 언어적·문화적 전문성을 기반으로 생산성을 끌어올리면서, 동시에 그 전문성을 유지할 인간의 생존조건을 무너뜨린다면 비슷한 문제가 발생한다. 생산성은 높아지지만 그것을 가능하게 한 생태계는 점점 빈곤해지는 셈이다.

이때 중요한 것은 번역가나 작가, 편집자가 어떤 숭고한 인간 정신을 대표하기 때문에 보호되어야 한다는 주장이 아니다. 무엇이 좋은 번역이고 무엇이 좋은 글인지 판단할 수 있는 문화적 역량이 계속 재생산되려면 그것을 실제로 수행하며 살아갈 사람이 필요하다. 효율적인 품종 하나만 남겨놓은 농업이 작은 변화에도 취약해지듯, 문화 역시 생산성과 비용만을 기준으로 최적화될수록 다양성과 복원력을 잃을 수 있다. 그리고 이 부분에서만큼은 사댕이 말한 것이 옳다. 잃어버린 것은 되찾기 점점 어려워진다.

생성형 인공지능이 인간의 생산성을 두 배로 높였을 때 그 두 배가 어디로 가는지도 기술이 스스로 결정하지 않는다. 노동시간을 줄일 수도 있고, 동일한 시간 동안 두 배의 업무를 요구할 수도 있으며, 인력을 절반으로 줄일 근거로 사용할 수도 있다. 기술적 가능성은 하나지만 그것을 사회적으로 조직하는 방식은 여러 가지다. 『포식하는 자본주의』가 ‘어쩔 수 없음’이라는 감각을 구조적 질문으로 바꾸었던 것처럼, 이 문제 역시 기술 발전 자체와 그것을 특정한 방식으로 배치하는 사회적 선택을 분리해서 볼 필요가 있다.

사댕의 비판이 힘을 얻는 것도 이런 대목이다. 인간이 편의를 얻는 동안 조금씩 역할과 판단권을 넘겨준다는 그의 진단은 실제 경험과 크게 동떨어져 있지 않다. 다만 그 과정을 ‘인간성의 말살’로 묶는 순간, 생산성의 이익을 누가 가져가는지, 전문성은 어떻게 재생산되는지, 인간에게 어떤 판단과 책임을 남길 것인지와 같은 더 구체적인 문제가 생명과 기계의 대립 뒤로 밀려난다.

4. 사댕이 가장 낭만적인 인간으로 돌아가는 순간

예술을 다루는 부분에서는 이 인간주의적 전제가 더욱 노골적으로 드러난다. 사댕은 생성형 이미지와 개인화된 콘텐츠가 인간의 욕망을 즉시 만족시키면서 예술을 오락과 소비의 영역으로 축소하고, 타인이 만들어낸 낯선 작품 대신 자신의 성향과 환상을 되비추는 이미지만 소비하게 만들 것이라고 우려한다. 알고리즘에 의해 욕망이 폐쇄회로를 형성할 가능성은 분명 존재한다. 그러나 즉각적인 쾌락에서 예술적 퇴행으로 곧장 이어지는 경로는 지나치게 단선적이다.

문화에 대한 욕망은 반드시 익숙함을 향해서만 움직이지 않는다. 사람은 쉬운 쾌락에 중독되지만 동시에 쉬운 쾌락에 질린다. 반복되는 서사와 이미지가 충분히 익숙해지고 나면 더 이상 같은 강도의 만족을 주지 못하고, 오히려 더 복잡하고 낯선 경험을 찾게 만드는 계기가 되기도 한다. 대중소설이나 장르문화에서 출발한 취향이 난해한 문학과 철학, 실험적인 공연으로 옮겨가는 것은 이상한 일이 아니다.

나 역시 처음부터 이른바 ‘고급 예술’에 매혹되었던 것은 아니다. 판타지소설과 장르적 서사에서 시작해, 더 강한 몰입과 낯선 감각을 찾아 방탈출과 같은 체험형 콘텐츠를 즐겼고, 그 관심은 다시 실험적인 연극에 대한 관심으로 이어졌다. 어느 순간부터는 익숙한 서사를 반복해서 소비하는 것보다 구조가 복잡하고 쉽게 해석되지 않는 작품을 파고드는 일이 더 큰 쾌락이 되었다. 어려운 철학책을 붙들고 저자의 논리를 하나씩 반박하며 읽는 일조차 그 연장선에 있다. 쉬운 오락이 복잡한 예술 경험을 가로막았다기보다, 오히려 쾌락을 추구한 끝에 더 낯설고 밀도 높은 경험을 요구하게 된 셈이다. 이런 이동을 고려하면, 오락과 예술 사이에는 사댕이 상정하는 것만큼 단단한 경계가 없다는 것을 알 수 있다.

이 경험 때문에 욕망의 즉각적인 충족이 곧 취향의 단순화로 이어진다는 사댕의 전제를 쉽게 받아들이기 어렵다. 인간의 욕망은 충족되는 만큼 학습되고 변형되기도 한다. 익숙한 만족은 반복될수록 효력이 약해지고, 그 과정에서 새로운 형식과 더 복잡한 자극을 찾는 욕망이 생길 수 있다. 대중적 오락과 난해한 예술을 서로 반대편에 놓는 순간, 오히려 한쪽에서 다른 쪽으로 이동하는 취향의 운동을 설명하기 어려워진다.

생성형 인공지능이 창작의 진입장벽을 크게 낮춘다는 점 역시 반드시 부정적으로만 볼 이유는 없다. 이전에는 기술이나 비용의 문제 때문에 형태를 얻지 못했던 수많은 개인적 욕망과 기괴한 상상이 이미지와 이야기로 밖에 나올 수 있다. 그 대부분이 평범하거나 조악할 가능성은 높지만, 문화의 역사는 애초부터 방대한 실패와 통속성 속에서 새로운 형식을 만들어왔다. 콘텐츠의 범람이 곧 창조성의 쇠퇴라는 결론 역시 아직 너무 빠르다. 오히려 평범한 것을 만드는 비용이 낮아질수록 평범하지 않은 경험의 가치가 더 커질 가능성도 있다.

물론 가짜뉴스와 자극적인 정치 언어, 비판적 사고와 문해력의 문제에서는 사댕의 불안이 훨씬 현실적으로 다가온다. 하지만 인간은 이전에도 거짓말과 선동에 취약했고, 자신이 믿고 싶은 정보만을 받아들이는 성향 역시 새롭지 않다. 달라진 것은 그 약점을 실시간으로 추적하고 증폭하며 수익화할 수 있는 환경이다. 생성형 인공지능은 허위 콘텐츠의 생산 비용까지 낮춘다. 이런 현상을 인간 자체의 퇴행이라고 부르기보다는 인간이 오래전부터 가지고 있던 취약성이 산업적으로 조직되는 과정이라고 보는 편이 더 정확할 것이다.

인간의 본성이 타락했다면 해답은 인간성을 회복하는 일이 된다. 그러나 인간의 오래된 취약성이 특정한 기술과 경제적 구조 속에서 증폭되고 있다면 문제의 위치도 달라진다. 플랫폼의 설계와 소유, 정보가 유통되는 방식, 교육이 어떤 능력을 계속 훈련할 것인지가 더 중요해진다. 사댕의 논의가 자본주의적 효율성과 기술적 타율성을 비판할 때 힘을 갖다가도 자꾸 ‘살아 있는 인간’으로 되돌아갈 때 공허해지는 이유가 여기에 있다.

책의 마지막에서 그 성향은 거의 정치적 신념으로까지 확장된다. 사댕은 선의를 가진 사람들이 소수로 출발하더라도 정당한 명분을 가지고 연대한다면 영원할 것처럼 보이는 권력도 흔들 수 있다고 믿는다. 앞에서 기술과 자본의 구조에 깊이 포획된 인간을 그려놓고 마지막에는 다시 자율적으로 각성하고 연대하는 인간을 호출한다는 점에서 이 결론은 놀라울 만큼 순진하다.

그런데 나는 이상하게도 이 순진함만큼은 완전히 밀어내고 싶지 않다. 사댕의 세계에서 인간은 지나치게 살아 있고, 기술은 지나치게 죽어 있으며, 정치적 저항은 지나치게 선하다. 그의 비관주의는 기술을 향할 때 극단적이고 인간을 향한 낙관주의 역시 그만큼 극단적이다.

그리고 그 낙관이 겨냥하는 것은 ‘어쩔 수 없음’이라는 말이다. 나는 정말 그것이 필요하다고 생각한다. 영화 『어쩔 수가 없다』에서 보여줬듯이 고추가 들어있는 화분으로 하나 뿐인 관리인으로 살아남기 위해 경쟁자를 죽이는 코미디가 우리 미래 세대에서 반복되어서는 아니지 않은가.

5. '어쩔 수가 없다'가 아닌 방향으로

기술은 이미 만들어졌다. 모두가 사용할 것이다. 노동은 바뀔 것이다. 개인이 막을 수 없다. 그러므로 받아들일 수밖에 없다. 이런 문장은 현실을 설명하는 것처럼 보이면서 동시에 현실을 바꿀 수 있는 가능성을 처음부터 제거한다. 『포식하는 자본주의』가 자본주의를 자연법칙이 아니라 역사적으로 만들어지고 다시 구성될 수 있는 삶의 형식으로 보았던 것처럼, 생성형 인공지능이 존재한다는 사실과 그것이 어떤 방식으로 인간의 삶에 편입되어야 하는가는 동일한 문제가 아니다.

사댕이 지키려는 순수한 인간을 믿기는 어렵다. 인간은 애초부터 기술과 뒤섞였고, 자신의 언어의 완전한 주인이었던 적도 없으며, 앞으로도 새로운 매체와 함께 계속 다른 존재가 될 것이다. 헤일스의 인간처럼 피드백 속에서 재구성되고, 리우의 인간처럼 자신도 알지 못하는 기호의 회로 속에서 움직이는 존재일 가능성이 훨씬 설득력 있게 느껴진다.

그럼에도 그 인간이 어떤 관계 속에서 재구성될 것인지는 여전히 선택의 문제로 남는다. 누가 사고의 도구를 소유하고, 누가 생산성의 이익을 가져가며, 어떤 전문성이 사라지고 어떤 판단을 인간에게 남길 것인지까지 기술적 필연으로 처리할 이유는 없다.

『멸종 위기의 사고』가 제시하는 인간성에는 끝내 동의하기 어렵다. 그러나 인간의 본질을 지키자는 그의 요구를 걷어내고 나면, 그 아래에는 오히려 더 현실적인 질문이 남는다. 사고가 기술과 결합해 이전과 다른 형태로 변하고 있는 지금, 그 변화를 단지 더 빠르고 편리하다는 이유만으로 받아들여도 되는가. 사댕의 답보다 오래 남는 것은 아마 그 질문일 것이다.