보는 사람 입맛 따라 달라지는 사전

만약 인터넷 사전이 검색하는 사람마다 단어의 뜻을 다르게 보여준다면 어떨까? 예를 들어 한 단어를 검색했을 때 누군가에게는 원래 뜻인 A가, 누군가에게는 완전히 다른 뜻인 B가 뜬다면? 심지어 잘 속을 만한 사람만 골라내서 그들에겐 더 심한 거짓 뜻을 보여주고, 특정 단어를 보기 싫어하는 이용자에게는 해당 단어가 세상에 없는 것처럼 찾기 힘들게 만든다면? 우리는 당연히 사전을 만든 회사에게 항의하고 수정을 요구할 것이다. 이용자가 세상을 보는 눈을 바꾸게 할 게 뻔하니까. 그리고 검색 결과가 가져올 폐단을 제작자가 모르고 있었을 리 없으니, 제작자들에게 윤리적인 책임이 있다고 생각할 것이다.

놀랍게도, 지금의 유튜브, 페이스북, 인스타그램, 구글 등의 IT 회사들이 정확히 그런 사전을 만들고 있다는 믿기 힘든 이야기를 들려주는 다큐멘터리 영화가 있다. 넷플릭스 오리지널, <소셜 딜레마>이다.

화면 속 세상이 현실을 바꿔 놓는다

<소셜 딜레마>에는 페이스북, 트위터, 핀터레스트, 유튜브 등 각종 IT 기업의 전/현 회장, 이사, 개발자, 디자이너 등이 등장한다. 그들 중에는 페이스북의 좋아요 버튼을 만든 사람, 구글 드라이브의 공동개발자, 유튜브의 추천 알고리즘을 디자인한 사람도 포함된다. 그들은 자신이 속했던/속한 회사들이 돈을 버는 구조가 어떻게 생겼는지, 그리고 그것이 우리 사회를 어떻게 바꾸어 놓았는지 털어놓는다.

학창 시절, 처음 SNS와 유튜브를 접했을 때 ‘사용자 중 누구도 돈을 내지 않는데, 대체 이런 기업들은 어떻게 돈을 벌고 굴러가는 것일까?’라는 궁금증을 가졌던 것을 기억한다. 이제는 많은 사람이 알고 있듯, 답은 광고주가 기업에 돈을 준다는 것이다. 그럼 광고주는 대가로 무엇을 받는가? 바로, 이용자들의 '관심'이다.

IT 회사는 ‘확실하게 성공할 수 있는 광고 공간’을 만들어 돈을 번다. 광고주는 자신의 광고가 먹히지 않을 것 같은 곳보다 잘 먹힐 것 같은 곳에 돈을 내고 싶은 게 당연하다. 광고가 확실하게 성공하려면, 어떤 사용자에게 어떤 광고가 잘 먹힐 것인지 예측해야 한다. 정확한 예측을 위해서는 근거가 될 수 있는 데이터가 쌓여야 한다. 때문에 인터넷 상에서 우리의 모든 활동은 IT 회사에 수집된다. 스크롤을 얼마나 빠르게 넘기고, 어느 시간대에 어떤 주제에 가장 관심이 많고, 어떤 사진 앞에는 평균적으로 몇 초나 머무르는지.

기업이 돈을 많이 벌려면 광고주에게 팔 ‘사용자의 관심’이 많아야 한다. 사용자의 관심이란 사용자의 접속 시간과 같다. 접속 시간을 늘리기 위한 기업의 해답은 간단하다. 사용자가 보고 싶어 하는 것을 정확히 골라 눈앞에 들이미는 것.

언뜻 보기에 이용자가 보고 싶어 하는 것만 가져다주는 것은 문제가 없어 보인다. 하지만, 음모론을 좋아하는 사람만 골라서 코로나 19라는 바이러스는 존재하지 않는다고 주장하는 영상을 추천한다면 어떨까? 성 소수자를 혐오하는 사람만 골라 동성애를 치료해야 한다고 주장하는 영상을 추천한다면? 단순히 고양이를 좋아하는 사람에게 고양이 영상만 추천하는 데에서 그친다면 좋겠지만, 알고리즘은 주제를 가리지 않는다. 모든 것에 관한 목소리가 유튜브와 SNS에는 존재한다. 그 안에서 이용자가 보고 싶은 것만 확대하고 나머지는 축소해서 보여준다는 건, 도입부에서 들었던 예시처럼 그가 사회를 보는 눈을 바꿔 버리는 결과를 가져온다. 조작된 눈을 통해 계속해서 좁은 세상을 보는 사람들은 점점 극단적인 성향으로 변해간다.

이런 영향력을 고작 개발자 몇 명이 가지고 있다는 사실은 놀랍다. 마음만 먹으면 이들은 수천 명, 아니 세계 전체에 영향을 미칠 수도 있다. 예를 들어, 난민 이슈가 떠오를 때 전 세계 사람들에게 난민에게 우호적인, 혹은 적대적인 영상을 계속해서 추천한다면 어떨까? 투표 기간에 투표율을 낮추기 위해 선거나 정치를 연상시킬 만한 영상을 의도적으로 추천 영상에서 제외해 버리면? 이런 상상을 해보면 IT 기업의 현 추천 시스템이 실제 우리가 발을 딛고 살아가는 현실 세계를 위협하기에 충분하다는 것을 알 수 있다. 그 위험성은 단순히 이용자들이 거북목이 된다거나 시력이 나빠지는 것 정도에서 그치지 않는다. 세계의 시민들이 사회를 실제와 다르게 보게 되고, 서로를 혐오하게 되고, 민주주의가 무너질 수도 있는 것이다.

모든 것에 인터넷이 연결된다면?

만약 인터넷이 노트북과 스마트폰을 넘어 우리가 일상적으로 이용하는 모든 물건에 장착된다면 어떻게 될까? 예를 들어 자동차, 대중교통 등에 컴퓨터가 장착되어 개인의 일상적 이동, 방문, 머무름 역시 데이터로 수집된다면? 이용자가 어떠한 패턴으로 이동하며, 어떤 장소를 다른 장소에 비해 선호하는지, 어떤 장소에는 평균적으로 몇 시간 동안 머무는지 등의 정보가 모두 기업에 수집될 수 있다.

그리고 우리는 -마치 습관적으로 인스타그램을 이용하며 인스타그램 회사에 우리도 모르게 돈을 벌어다 주듯이- 일상적인 이동을 통해 무의식적으로 이러한 체제를 뒷받침하게 된다. 현대를 살아가기 위해서는 반강제적으로 구글의 이용약관에 동의해야 하는 것처럼, 일상적인 이동 행위를 위해서도 모빌리티의 소유자가 요구하는 동의를 헌납하게 될 것이다.

이미 컴퓨터처럼 보이지 않는 사물들에 컴퓨터가 장착되는 일은 흔히 일어나고 있다. 우리가 입고, 먹고, 방문하고, 듣고, 보는 등의 모든 행위가 정보가 되어 수집된다면, IT 기업이 우리가 무엇을 좋아하고, 어떻게 행동하는지, ‘우리가 누구인지’ 파악하는 것은 앞으로 더욱더 쉬워질 것이다. 그리고 아무런 제재 없이 IT 기업들이 지금의 수익 모델을 그대로 적용한다면, 앞에서 언급한 폐해들은 갈수록 심각해지고, 바로잡기는 더욱 어려워진다는 건 불보듯 뻔한 일이다.

우리가 할 수 있는 일

영화의 말미에 개발자들은 이 회사들이 스스로 변할 이유는 아무것도 없다고 말한다. 지금의 사업 모델이 분명하게 이득을 가져다 주는데, 이익 추구를 최대 목표로 하는 회사들이 윤리적인 이유로 스스로 이를 바꿀 리는 없다고. 때문에 이들은 정부의 규제, 재정적 인센티브, 데이터 수집 정도에 따라 세금을 매기는 방법을 제안한다. 하지만 현 상황이 문제적이라고 인식하는 대중이 많아지지 않으면 이러한 제재는 만들어질 수 없을 것이라고도 예측한다. 우리가 더 많이 이야기하고, 목소리를 내지 않으면 어떤 변화도 없을 거라고.

변화를 위해 목소리를 내는 것 외에, 각자가 지금 당장 IT 기업이 ‘보여주는 세상’에서 조금이나마 벗어날 수 있는 방법은 다음과 같다. 모든 SNS의 푸쉬 알림 끄기, 추천 알고리즘을 끄는 크롬 확장 프로그램을 깔기, 알고리즘에게 추천받지 말고 항상 스스로 선택해서 보기, 스스로 통제하기 어렵다면 관련 앱을 이용해서라도 SNS의 사용 시간을 제한하기. 간단해 보이지만 실제로 시도해 보면 생각보다 어렵다는 것을 느낄 수 있을 것이다. 필자 역시 이 글을 쓰는 동안에도 몇 번씩 트위터와 유튜브를 들여다보았다. 하지만 이 적은 노력의 대가가 내가 발을 딛고 서 있는 세상을 제대로 들여다볼 수 있는 것이라면, 기꺼이 시도해볼 만할 것이다.