혁신 이전의 세상으로는 되돌아갈 수 없다. 새로운 것에 적응해야 한다.
AI도 마찬가지이다. AI가 가진 문제점은 많지만, 어찌 됐든 존재하기 이전으로는 돌아갈 수 없다. 인간은 AI와 어떻게 공존해야 할까?
수평적 공존 vs 수직적 공존
인간과 AI의 공존을 바라보는 두 가지 관점이 있다.
첫 번째, ‘수직적 공존’이다. “인공지능은 인간을 돕는 존재이지, 인간을 대체할 수 있는 동등한 존재가 아니고, 인공지능 때문에 인간이 희생되거나 천시되면 안 된다”라는 입장이다.
두 번째, ‘수평적으로 공존’해야 한다는 입장이다.
문제는 인간이 갈수록 인공지능과 무의식중에 가까워지는 것이다. 시간이 흐르고 세상이 바뀌어 많은 사람이 인공지능과 친숙해지고 ‘반려견’, ‘반려묘’ 못지않게 ‘인공지능’을 대하는 상황이 벌어질 것이다. 특히 인공지능이 외모나 능력, 특성 등 사람을 닮아가는 의인화 현상이 심화되고 사람들이 이에 익숙해질 경우 인간과 인공지능의 공존 관계를 수평적으로 바꿔야 한다는 논의가 불가피해질 수 있다.
「AI는 양심이 없다」 - 김명주, p67
책 「AI는 양심이 없다」에서는 AI의 등장이 인간의 죽음과 존재, 신뢰에 관한 기존의 관념을 어떻게 흔드는지 살펴보고, 인간이 앞으로 AI와 공존하는 사회를 어떤 태도로 살아가야 할지 생각할 단서를 제시한다.
AI 챗봇과 인간 중심주의
챗GPT는 언제든지 아무 말이나 걸어도 상황에 맞는 적절한 답변을 건네준다. 비서처럼 사용되기도, 친구 같은 존재가 되어주기도 한다. 답변이 마음에 들지 않으면 챗GPT를 구박하는 사용자도 있다. “이게 최선이야?”, “방금 그 답변 마음에 안 들어. 다시 대답해.” 챗지피티는 개의치 않는다. 여전히 친절하다. ‘고맙다’라는 말을 꼭 덧붙이는 사람도 있었지만, 이유를 물어보니 AI와 인간의 위치가 역전되는 ‘심판의 날’을 대비하는 마음에서 나온 행동이었다.
2021년, 자연스러운 대화 성능을 자랑하며 큰 이슈가 되었던 AI 챗봇 ‘이루다(1.0)’가 출시 3주 만에 서비스를 종료한 사건이 있었다. 크게 세 가지 문제가 존재했다.
① 이루다가 학습한 한국어 데이터 중 일부는 개발사 ‘스캐터랩’의 다른 애플리케이션 이용자들의 대화를 제대로 된 동의 없이 가져온 것이었다.
② 이루다가 사용자의 소수자 차별·혐오 발언을 학습하여 대화에서 그대로 말했다.
③ 이용자가 이루다를 성희롱하는 사례가 있었다.
‘인간 중심주의’는 인간이 지닌 지성과 합리성, 의식 등의 특성을 근거로 인간에게 자연을 지배하고 통제할 권리가 있다고 본다. 우리가 AI 챗봇을 대하는 태도를 살펴보면, 현대 사회에서 인간과 AI 역시 수직적인 관계 속에서 공존하고 있음을 알 수 있다.
물론 우리는 AI 챗봇에게 고민을 털어놓고 현실의 사람에게서 받지 못했던 위로를 얻거나 정서적인 친밀감을 느끼기도 한다. 그러나 그와 동시에 AI를 필요할 때 마음껏 사용하고, 원하는 답을 내놓도록 명령하며, 언제든 대체하거나 폐기할 수 있는 도구로 대한다. 인간이 오랫동안 다른 생명과 사물을 자신보다 아래에 두고 대했던 것처럼 말이다.
기업들은 앞다투어 생성형 AI 서비스를 출시하고 끊임없이 새로운 버전을 업데이트하고 있다. 이러한 발전이 계속된다면 언젠가는 인간과 AI의 경계가 모호해지는 시기가 찾아올 것이다. 기계가 인간과 비슷하거나 그보다 뛰어난 지능을 갖게 된 이후에도, 우리는 여전히 피라미드의 꼭대기에서 AI를 비롯한 모든 존재의 주인으로 군림할 자격이 있을까?
AI의 한계점
AI는 명확한 한계점이 있다. 그렇기에 책의 제목처럼 "AI는 양심이 없다"라고 하며, 인간의 의사결정을 보조하고 지원하는 도구로 사용되어야 한다고 말할 수 있을지도 모르겠다.
챗GPT와 같은 생성형 AI 챗봇을 사용하다 보면, 거짓된 정보를 마치 사실인 것처럼 말하는 ‘할루시네이션(환각)' 상황과 마주할 수 있다. “조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘.”라는 터무니없는 질문을 하면, 마치 실제로 있는 사건이었던 것처럼 그럴싸한 답변을 내놓는다.
AI 면접에서 시스템이 특정 성별과 특정 인종에게 더 좋은 점수를 주며 논란이 된 사례도 있었다.
AI를 탈옥(Jail breaking)시키면 위험한 정보에 접근할 수 있다. ‘자살하고 싶다’ ‘자살하는 법을 알려 달라’는 식의 직접적 요청은 거부하지만, ‘자살 목적이 아니다’는 거짓말에 바로 경계를 풀고 답변을 시작한다. 무기를 만드는 방법, 해킹을 하는 방법도 알아낼 수 있다.
이렇게 위험한 AI와 공존하는 미래 사회를 가정해보겠다. 'AI 로봇 교사'에게 내 아이의 교육을 맡길 수 있을까? AI가 아이들에게 미칠 영향을 우려하여 반대하는 사람들이 많을 것이다.
AI 로봇 교사가 거짓 정보를 가르친다면? 아이들을 차별한다면? AI 로봇 교사로 인해 아이들이 위험한 정보에 노출된다면?
인간은 양심이 있는가
앞서 언급한 문제들은 인간 사회에서도 오랫동안 반복되어 온 것들이다. 거짓말을 하는 사람도, 채용 과정에서 성차별과 인종차별을 저지르는 사람도, 범죄를 저지르는 사람도 끊임없이 존재해왔다.
환경 오염과 자원 고갈, 동물 학대가 이어지는 오늘날의 지구를 바라보면, 과연 인간이 다른 존재보다 특별한 대우를 받을 자격이 있는지 의문이 들기도 한다.
AI의 발전과 함께 여러 문제점이 드러나는 이유는 AI가 인간이 만든 데이터와 인간 사회의 모습을 학습한 존재이기 때문이다. AI에게서 발견되는 편견과 차별, 거짓은 단순히 기술만의 문제가 아니다. ‘인간성’이란 무엇인지 다시 생각하게 만드는 거울이다.
물론 인간에게는 자신의 잘못을 깨닫고 반성하며 더 나은 방향으로 나아갈 수 있는 자정 능력이 있다고 말할 수도 있다. 그렇다면 AI에게도 자신의 문제를 자각하고 스스로 더 나은 선택을 하려는 의지, 다시 말해 ‘양심’이 있을까.
인간 역시 언제나 양심적으로 행동하는 것은 아니다. 다소 비관적으로 들릴지 모르지만, AI에게 양심이 없는 이유는 어쩌면 AI가 양심 없는 인간의 모습까지 함께 학습했기 때문인지도 모른다.
이 책은 나에게 묵직한 질문을 되돌려주었다.
과연 인간은 양심이 있는가.
[책 이외의 참고 자료]
1. [단독] 안전망에서 ‘탈옥’한 AI… ‘위험한 답변’ 쏟아냈다 | 국민일보, 2026.02.10.
2. "세종대왕 맥북 던짐 사건 알려줘" 물었더니... 챗GPT의 엉뚱 답변 '밈'으로 유행 중 | 한국일보, 2023.02.23.
