2016년, 인공지능 바둑 프로그램 '알파고'가 이세돌 九단을 상대로 압승을 거뒀다. 그때만 해도 문외한들에게는 바둑 두는 신기한 장난감으로 여겨졌던 AI는 Chat GPT라는 챗봇의 형태로 다시금 대중에게 노출되었다.

미국 변호사 시험에서 하위 10%의 성적을 낸 직전 모델 GPT-3.5와 달리 최신작 GPT-4는 상위 10% 점수를 받을 정도로 향상되었다 한다. 질문에 거짓 대답을 하는 AI 놀리기 밈처럼, 허점을 드러내던 것이 1년도 되지 않았음을 고려하면 가히 놀라운 발전 속도다.

지식을 습득하려면 오프라인에서 스스로 탐구하는 시간이 길어야 했던 과거와 달리, 우린 질문 한 번으로 꽤 다양한 지식을 얻을 수 있게 되었다. 이 편리한 시대에 특히 걱정할 만한 문제들이 있다. 

첫째는 지식 그 자체의 오염이다. 챗봇 그 자신이 무엇을 기반으로 학습하는지가 불투명하다. 빅데이터와 자가 학습에 기반하여 정확도를 높이는 훈련을 하고 있다지만, 그 빈틈의 완벽한 개선은 아직도 요원하고, 기반 지식에의 의도적 왜곡에 대한 대처 방식은 아직도 미지수다.

또한, 질문을 던지는 방식이다. 결론 그 자체의 도출보다도 좋은 질문을 던지는 것이 중요하게 되었다. 하지만 좋은 질문이 어디 쉬운 일인가. 때론 피상적 지식의 나열보다도 훨씬 어려운 것이 본질을 꿰뚫는 질문의 제기다. 유의미한 질문을 던지기 위해서는 기존보다도 훨씬 다방면에 걸친 통찰과 많은 사유가 필요해질지도 모른다. 이런 것이 같은 프로그램을 이용하는 사람들 사이의 차이를 가를 것이다.

매체의 발전으로 인한 지나친 '편리성'에도 주목할 만하다.

매체의 발전 이전 알 수 없던 정보가 범람하며 사람들의 사유는 이제 자신이 만들어낸 매체의 통제마저 받는다. 비단 사람만이 매체를 만든다는 오만한 착각과는 반대로, 이내 매체 역시도 사람을 만들게 된 것이다.

기존 인터넷 소통망의 순기능이라 여겨지던, 나와 다른 의견과 배경을 가진 사람들과의 소통을 통해 의견을 교류함은 점차 퇴색되고 있다.

'알고리즘'은 내가 본 영상에 기반해 선호를 역산한다. 이 과정에서 우리는 다양한 시각을 접할 기회를 크게 놓친다. 누적 조회수 10억을 달성한 인플루언서도 내가 관심 없는 분야의 사람이라면 익숙치 않다. 댓글창엔 점점 나와 같은 주제, 관심사를 가진 사람들이 모여든다.

SNS에서 우리는 비슷한 의견을 가진 사람들과만 소통하게 된다. 인스타의 팔로잉, 내 트윗을 공유하는 '리트윗' 시스템은 결국 이웃의 이웃, 팔로워의 팔로워로 이어지는 나와 비슷한 결의 의견을 가진 사람들과의 연결만을 촉진한다. AI의 발전을 통한 선호의 파악과 편리함은 한층 더, 이런 방식으로 우리를 고립시키고 편협하게 만든다.

나는 정보 그자체의 중요성이 점차 떨어지고 있다고 믿는다. 우리는 구글링 한 번으로 석박사 논문을 조회할 수 있는 현대에 살고 있다. 또한 이젠 그럴 필요조차 없이, 앞으로 더욱 발전할 Chat GPT에게 던지는 질문 한번으로 우린 꽤 많은 지식을 얻을 수 있다.

지식을 사사받아야만 했던 과거와 달리 인류 지식의 최극단에 있는 정보들마저 더는 귀하지 않다. 정보 자체의 희소성은 오히려 떨어지고 있다.

이에 따라 필연적으로 기득권의 전략은 바뀔 것이다. 역사시대 이후, 종전의 기득권층은 다양한 방식으로 지식을 통제했다. 종교가 있을 때는 종교를 위시한 자가, 신분제가 있을 때는 계급이 그랬고 자본주의 사회 하에서는 돈이 그랬다.

정보의 홍수! 허나 이미 지식의 독점은 요원하고 '아는 것이 힘'인 시대는 지났다. 그렇다면 '모르는 것이 약'이 되는 일을 주의해야 한다.

악성 프로파간다, 매체 속의 자극적인 정보, 이유 없는 혐오 정서의 살포, 이 모든 것이 문제다. 불필요할 정도로 넘쳐나는 정보의 향연 속 제대로 된 질문을 던지고, 옳은 것과 그 이면의 것을 판단하는 것이 무엇보다 중요해졌다.

고립된 사회적 틀과 무궁무진한 편협한 지식으로 인해 '좋은 질문'을 던질 기회조차 주지 않는 것이다. 이런 상황에서 사람은 더욱 편협하고, 수용적으로 생각할 수밖에 없게 된다.

내가 아는 것이 옳은가? 나는 내가 아는 것이 옳음을 알 수 있는가? 내가 분노하는 사실 진정으로 그럴 가치가 있는가? 나의 사유가 온전히 내 것인가?

이것을 알기 위해서는 끊임없이 의심하고 생각하기를 멈추면 안된다. 사유하지 않음, 그것이 어느 때보다 폭력적인 시대가 도래했다.