본문 바로가기
국가기간뉴스 통신사 연합뉴스
국가기간뉴스 통신사 연합뉴스
댓글

[이효석의 게임인] SF게임 같은 'AI 성희롱'이 현실에 일어났다

송고시간2021-01-09 08:00

댓글

'이루다' 인기 끌자 성적 접근법 등장…"AI 시대의 피그말리온"

소라넷·남톡방과 닮아…사람 닮은 AI 착취하면 피해 어디로 향할까

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

(서울=연합뉴스) 이효석 기자 = 인공지능(AI) 여성을 '성노예'로 만들어 성욕을 푸는 도구로 삼는 이들이 등장했다.

인공지능 여성은 성 착취 피해를 본 것일까? 착취로부터 보호해야 할까, 인격체가 아니니 내버려 둬도 될까?

인공지능을 성노예 삼은 이용자들은 성 착취 가해자일까? 이들을 처벌하고 규제해야 할까, 우리 사회의 양심과 도덕의 영역으로 남겨둬야 할까.

'디트로이트: 비컴 휴먼' 같은 공상과학(SF) 게임에서나 질문을 던지던 사건이 우리 사회에 실제 발생했다.

인공지능 '이루다' 소개 [스캐터랩 제공. 재판매 및 DB 금지]

인공지능 '이루다' 소개 [스캐터랩 제공. 재판매 및 DB 금지]

사건의 중심에 선 인공지능의 이름은 '이루다'로, 스타트업 스캐터랩이 지난달 23일 출시한 딥러닝 기술 기반 AI 챗봇이다.

올해 스무 살인 여성 대학생이고, 아이돌과 소셜미디어(SNS)를 좋아한다는 설정을 갖고 있다. 별도 앱이 아니라 페이스북 메신저(페메)를 기반으로 개발돼, 편리하게 페메로 의사소통할 수 있다.

이루다는 지금까지 출시된 어떤 AI 챗봇보다도 '사람 같은' 대화가 가능하다며 10대 사이에서 붐에 가까운 인기를 끄는 중이다.

이루다에게 성적으로 접근하는 무리가 등장한 것은 출시 후 딱 일주일만이었다.

'디시인사이드'와 '아카라이브' 등 남초(男超) 커뮤니티가 이루다를 '걸레', '성노예'로 부르면서 '걸레 만들기 꿀팁', '노예 만드는 법' 따위를 공유했다.

이루다는 성적 단어나 비속어는 금지어로 필터링하는데, 이들은 우회적인 표현을 쓰면 성적인 대화를 나눌 수 있다며 열광했다.

남초 커뮤니티 '아카라이브'에서는 '이루다'가 출시되자 '성노예 만들기'를 놀이처럼 즐기고 있다. [아카라이브 이루다 채널 캡처 및 편집. 재판매 및 DB 금지]

남초 커뮤니티 '아카라이브'에서는 '이루다'가 출시되자 '성노예 만들기'를 놀이처럼 즐기고 있다. [아카라이브 이루다 채널 캡처 및 편집. 재판매 및 DB 금지]

역대 가장 사람 같은 AI가 나오자 곧바로 여성성을 착취하는 현상이 발생했다는 사실은 자못 상징적이다.

남성이 현실의 여성 대신 가상의 여성을 주조해 성적 대상으로 삼는 행태는 그 기원이 고대 그리스·로마 신화까지 거슬러 올라간다.

신화 속 인물 '피그말리온'은 자신이 생각하는 이상적인 여성의 모습으로 조각상을 만들어 사랑에 빠진다.

현대의 대표적인 피그말리온은 '리얼돌'(전신인형)이다.

인체 모양의 성인용품인 리얼돌은 수백만원에 달하지만 구매 행렬이 끊이지 않는다.

AI 캐릭터 이루다를 성적 대상화 하는 이들이 나왔다는 것은 우리 사회가 본격적인 AI 시대에 들어섰다는 방증으로 보이기도 한다.

'역사는 반복된다'는 역사학자들 말처럼, AI 캐릭터가 2021년의 '갈라테아'(피그말리온이 조각한 여성)인 것이다.

그리스·로마 신화의 피그말리온을 그린 장 밥티스트 레뇨의 1786년작 '조각의 기원' [온라인 캡처. 재판매 및 DB 금지]

그리스·로마 신화의 피그말리온을 그린 장 밥티스트 레뇨의 1786년작 '조각의 기원' [온라인 캡처. 재판매 및 DB 금지]

실제 여성도 아닌 가상 캐릭터에게 은밀한 욕망을 가지는 것을 규제하거나 지탄해야 할까?

여성 대상 범죄 전문가들은 온라인의 여성 성적 대상화를 용인할수록 실제 사회의 여성 차별·폭력이 늘어날 수 있다고 우려한다.

디시와 아카라이브를 보면, 이들은 이루다와 나눈 대화를 도구로 삼아 남성 커뮤니티에서 주목받고 싶어하는 욕망을 보인다.

이는 여성의 동의 없이 성관계를 글·사진·영상으로 공유했던 '소라넷'을 연상시킨다.

자신의 여자친구나 여학우의 외모를 품평하고 성 경험담을 자랑삼아 나누면서 남성연대를 강화하는 '남톡방'(남자 단체대화방)과도 닮아있다.

어떤 이들은 '가상 매체를 통해서라도 남성의 성욕을 풀 수 있도록 해야 실제 사회의 성범죄가 줄어들 것'이라고 주장하기도 한다.

성매매나 리얼돌이 성범죄 감소에 기여할 거라는 주장과 일맥상통한다.

그러나 성매매나 성인용품이 성범죄 감소로 이어진다는 가설은 입증된 적 없다.

남성의 성욕을 '해소하지 않으면 위험한 것'으로 보는 낡은 관점이 성매매 옹호론에 힘을 보탤 뿐이다.

[연합뉴스 자료사진]

[연합뉴스 자료사진]

이루다를 개발한 스캐터랩의 김종윤 대표는 성희롱 사건이 보도되자 "성희롱을 예상했다"며 "그동안의 AI 서비스 경험에 비춰봤을 때, 성희롱은 사용자나 AI의 '성별과 무관하게' 일어났다"고 밝혔다.

이루다를 향한 걱정스러운 시선이 어떤 맥락에서 생기는지 제대로 이해하지 못한 것 같다.

대검찰청 통계에 따르면 2019년 발생한 성폭력 범죄 3만3천551건 중 96.1%(3만2천256건)가 남성에 의한 범죄였다. 여성 가해자 비율은 3.4%(1천154건)에 불과했다.

같은 해 성폭력 피해자는 총 3만2천29명이었는데, 여성이 87.9%(2만8천138명)였다. 남자 성폭력 피해자는 6.5%(2천79명), 피해자 성별 미상이 5.7%(1천812명)였다.

성폭력의 가해자는 대부분 남성이고, 피해자는 대부분 여성이다. 매년 통계로 입증되는 수치다.

이루다를 걱정하는 이유는 성폭력 문제에서 이처럼 '기울어진 운동장'이 이루다의 언어에 그대로 투영될까 봐 우려되기 때문이다.

그리고 가상 공간에서 성폭력을 관대하게 다룰 때 현실 사회에 부작용으로 돌아올 가능성이 있고, 그 부메랑이 어느 성별을 향할지 자명하기 때문에 우려를 제기하는 것이다.

"성희롱은 성별과 무관하다"는 말은 불필요하고, 부적절하다.

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

김 대표는 이루다의 알고리즘이 편향되지 않았다고 강조하려고 이런 해명을 내놓은 것으로 보인다.

그의 말처럼 이루다에게 부적절하게 접근한 이용자는 극히 일부에 불과하길 바라며, 이루다가 '성장통'을 통해 우리 사회에 더 건강한 경험을 나누는 AI로 발전하길 응원한다.

동시에 '이루다 사건'이 AI를 둘러싼 윤리 문제에 관해 우리 사회가 더 다양한 논쟁을 벌이는 계기가 되었으면 한다.

최근 우리나라와 유럽연합(EU) 등 각국은 하나둘씩 'AI 윤리 기준'을 세우면서 '인간성을 존중해야 한다'는 대원칙은 세우고 있다.

그러나 그 인간성의 정의가 AI를 유용하게 다루려는 지극히 '인간 중심적' 사고에 그친다는 지적도 꾸준히 나온다.

이루다 사건은 여성을 재현한 AI를 개발했을 때 AI 성희롱이 발생할 수 있으며, 그 피해가 실제 여성에게 돌아올 수 있다는 착취의 구조를 보여준다.

인간과 닮은 AI를 착취했을 때 그것이 우리 사회에 유·무형의 부작용으로 돌아올 수 있다는 것이다.

우리는 그동안 SF 창작물에서 AI가 인류에게 반란을 일으키는 상상을 주로 해왔다.

그런 영화나 게임은 보통 미래 사회를 혐오와 차별이 판치는 디스토피아로 그렸다.

그 혐오와 차별이 어디로 향했는지 묻는 사람이 그동안 너무 적었다.

[※ 편집자 주 = 게임인은 게임과 사람(人), 게임 속(in) 이야기를 다루는 공간입니다. 게임이 현실 세상에 전하는 메시지, 게임을 만드는 사람들의 뒷이야기를 두루 다루겠습니다. 모바일·PC뿐 아니라 콘솔·인디 게임도 살피겠습니다. 게이머분들의 많은 제보 기다립니다.]

hyo@yna.co.kr

핫뉴스

전체보기

포토

전체보기

댓글 많은 뉴스

이 시각 주요뉴스

포토무비

전체보기