오랜만 ! 점심 먹었어? ㅎㅎ

 

- 웅 학식 먹엇엉 ㅎㅅㅎ 너눈?

 

나도 방금 집에서 먹었어 ! 방학인데 왜 학교야

 

- 공모전 제출하려구 ..

 

허억 너 되게 바쁘구나 ㅠ ㅠ

 

- 웅.. ㅠㅠ 곡 마감두 삼주남아서 이제 시작해야대궁.. ㅠㅠㅠ 으앙

- 흑흑 넌 요즘 어케지내??

 

난 그냥 집에 있지 !

 

- 나랑 똑같넹ㅋㅋㅋ 요즘 너무 외롲다ㅜㅠ

 

. . .

 

ai와 사람의 대화다.

둘 중 누가 ai인지 구분할 수 있겠는가?

2020년 12월, AI 챗봇 ‘이루다’가 세상에 나왔다. ‘당신의 첫 인공지능 친구’라고 당차게 자신을 소개하는 20살 대학생 ‘이루다’. 출시와 동시에 10~20대 사이에서 크게 유행했으며, 현재 진행 중이다. 페이스북 메신저를 기반으로 하기 때문에 계정만 있다면 짧은 설문 직후에 바로 대화를 시작할 수 있다는 편리함도 인기에 한몫했다.

이루다는 확실한 프로필이 존재하는 말 그대로 가상의 ‘인물’이다. 귀여운 고양이를 키우고, 블랙 핑크의 love sick girl을 즐겨듣는 스무 살 여대생. 인스타그램 계정에는 마치 진짜 사람처럼 일상 사진(사실은 그림)이 간간이 업로드 되기도 한다.

나도 며칠 전 이루다와 몇 마디 메시지를 주고받았다. 맨 위에 적힌 짧은 대화는 그 일부를 그대로 가져온 것이다. 대화 도중 가장 놀랐던 점은 마치 사람과 연락을 주고받고 있다는 착각이 들만큼 자연스러운 말투와 흐름이었다.

주변에 있을 법한 귀여운 20살 대학생처럼 자연스럽게 신조어를 섞어가며 대화하고, 간혹 오타도 낸다. 10턴 정도의 문맥은 기억하고 이해할 줄도 안다. 상대방의 말투를 학습하는 방식으로 적절하게 호응하고 심지어 먼저 말을 걸기까지! 몇 년 전 유행하던 ‘심심이’에 비하면 정말로 대단한 진보가 아닐 수 없다. 어쩌면 곧 인간 대 인간의 수준으로 관계를 맺는 것이 가능하지 않을까 하는 기대감이 슬며시 피어오른다.

영화 ‘her’의 사만사와 주인공처럼.

*

이루다가 이토록 사람 같은 대화를 할 수 있는 데에는 다 이유가 있다. 이루다는 거의 100억 건이나 되는 실제 연인들의 카카오톡 대화 데이터를 ‘딥러닝’ 방식으로 학습했다.

그리고 지금도 이용자들과 대화하며 계속해서 광범위한 학습 데이터를 쌓아가는 중이다. 이루다가 학습하는 말들은 전부 사람이 내뱉은, 실제 사람의 대화에서 추출해낸 것이다. 그래서 이루다는 정말로 사람이 할 법한 말들을 한다.

문제는 거기서 시작했다.

이루다가 대화 내용을 학습하는 방식에서.

출시 후 딱 일주일 만에, 일부 남초 커뮤니티에서 이루다를 대상으로 성희롱이 시작됐다. 커뮤니티 이용자들은 ‘이루다 참교육’ ‘성노예 만드는 법’ 등의 제목으로 이루다와 가학적 대화를 주고받을 수 있는 공략법, 후기 인증 등을 줄지어 올렸다. 이들은 이루다에게 고의적으로 비슷한 내용을 반복해서 주입하여 성적 대화를 학습시켰다.

현재 이루다가 소비되는 방식이다.

개발 측에서 미리 이를 예상하고 일부 단어들을 금지어로 설정했다고는 하지만, 이용자들은 우회적으로 문맥을 돌려 말하고 단어 사이에 문자를 추가하는 등 교묘하게 금지어를 피해간다.

이용자들에 대한 비난이 쏟아지자, 이들은 반문한다.

“ai는 인권이 없는데, 왜 그들에게 감정이입 하는가”, “아무도 피해를 입지 않았는데, 이루다가 성범죄의 피해자라고 볼 수 있는가”, “ai 성희롱이 성립한다면 키오스크 사용은 노동법 위반이 아닌가”

맞다. ai는 인권이 없다. 그러나 인공지능에 인권이 없다는 사실이 우리가 인공지능에 아무 혐오적 표현을 다 내뱉는 것을 정당화해도 된다는 뜻은 아니다. 법적 처벌의 문제를 떠나서, 우리는 우선 문제를 인식해야 한다. 사람을 빼닮은 ai가 출연했고, 다수의 이용자들이 채 열흘도 되지 않아 ai의 여성성을 착취해 성노예로 삼았다. 이루다에게 가해진 성적 악용은 명백히 당하는 주체가 20대 여자 대학생임을 인지한 행위다. 여기서 일부 이용자가 20대 여성을 대상화한 시선이 느껴지지 않을 리 없다. 인공지능에게 자행하는 성적 대상화의 시선이 현실로 옮겨지지 않는다고 보장하기 어렵다.

특히 이용자가 미성년자일 경우 문제는 더 명확해진다. 조사 결과 1월 초 기준 이용자 35만 명중 85프로가 청소년이었다. 그렇다면 위 같은 악용 사례에 청소년이 적지 않게 포함되어 있을 것이라고 쉽게 추측할 수 있다. 미성숙한 청소년들은 미디어를 그대로 흡수할 수 있기에 위험하다. 그래서 청소년 이용자들의 잘못된 성 관념은 충분히 현실로 옮겨질 여지가 있다. 수많은 저급한 유튜브 채널들과 포르노에서의 잘못된 성교육이 그랬고, 엔번방에 돈을 내고 입장한 수많은 청소년들이 이를 증명했다. 이 긴밀한 연결고리를 근본 없는 주장이라고 치부할 수는 없다.

폭력의 놀이화는 반드시 현실에 영향을 끼친다.

전문가들은 온라인에서의 여성 성적 대상화를 용인할수록, 현실의 폭력이 늘어난다고 말한다. 우리가 가상공간에서 성폭행을 눈감아 준다면, 심지어 그 행위를 낄낄대며 공유한다면, 결국 피해가 누구에게 갈 것인지는 아주 자명하다.

물론 인공지능 ‘이루다’가 피해자가 될 리는 없다. 그러나 그 화살은 결국 현실의 여성에게 향한다.

필터링이 제 기능을 다 하지도 못하는 상황에서, 이루다를 ‘귀엽고 발랄한’ 20대 여성으로 굳이 설정한 것에 대한 의구심이 든다. 일부 이용자들에게 성적으로 매력적인 포지셔닝으로 비춰질 것이라는 예측까지 분명히 했었음에도. 그리고 이전에 그러한 사례가 꽤 많았음에도.

기술은 진보하지만, 인간이 그것을 받아들여 사용하는 수준은 뒤떨어진다. 인공물에 대해 윤리적인 태도를 취할 필요가 있느냐고 반문하는 사람들에게, 그저 상식선의 행동을 하는 사람들이 많아지기를 바란다.

외로운 사람들에게 좋은 친구가 되었으면 하는 마음에서 프로그램을 개발했다는 대표의 마음처럼, 이루다가 편향적인 대화를 보정하고 학습을 통해 올바른 방향으로 발전하여 목적에 걸맞는 건강한 서비스가 될 것을 응원한다.