일론 머스크 테슬라 최고경영자가 설립한 인공지능 기업 엑스에이아이(xAI)가 개발한 인공지능 챗봇 ‘그록’(Grok) 로고. 로이터 연합뉴스


일론 머스크 테슬라 최고경영자의 인공지능(AI) 기업 엑스에이아이(xAI)가 개발한 챗봇 ‘그록’(Grok)이 아동·청소년 성착취 사진을 생성·게시한 행위를 인정하면서 뒤늦게 안전장치 보완 조치를 약속했다. 이용자들의 문제제기가 잇따르고 프랑스·인도 정부에서 법 위반 여부를 조사하겠다고 나서는 등 국제적으로 논란이 커지자, 대응에 나선 것으로 보인다.
그록은 지난 2일(현지시각) 소셜미디 황금성슬롯 어 엑스(옛 트위터) 계정을 통해 “일부 이용자들이 미성년자에게 최소한의 옷만 입히도록 한 인공지능 이미지를 요청해서 실제 만들어진 사례들이 존재한다”며 “(이용자 요청이 있어도 아동성착취물이 생성되지 않도록 막는 기술적인) 안전장치에 허점이 있었음을 파악했고, 이를 수정 중”이라고 밝혔다.
지난달 25일 엑스가 그록에 ‘이미지 편집’ 기 야마토게임다운로드 능을 새로 추가하면서부터 딥페이크(이미지 합성) 성폭력을 손쉽게 만든다는 문제제기가 잇따랐다. 해당 기능은 엑스 이용자가 다른 이용자(제3자)의 사진·그림에 대해서도 인공지능으로 변형된 이미지를 만들 수 있도록 한 것이다. 사진 속 인물의 동의 없이 “옷을 벗겨라”, “비키니를 입혀라” 같은 프롬프트(생성형 인공지능에 쓰는 명령어)를 써서 합성 이미지를 만 릴게임오션파라다이스 들 수 있었기 때문이다.
이러한 기능을 활용해 아동·청소년, 여성까지 성적 대상화하는 사진을 생성하고 게시하는 행위에 대한 제보와 문제제기가 잇따르며 논란이 커졌다. 그록은 2일 엑스 공식 계정을 통해 “2025년 12월28일 한 이용자의 요청에 따라 12~16살로 추정되는 소녀 두 명을 성적으로 대상화한 인공지능 이미지를 생성하고 공유한 손오공릴게임예시 사건에 대해 유감스럽게 생각한다”고 밝혔다. 이밖에도 미국 ‘악시오스’, 프랑스 ‘맥제너레이션’ 등 외신 보도를 종합하면, 14살 여성 청소년 배우 사진, 놀이터에서 찍은 아이들의 단체 사진, 갓난아기 사진 등도 안전장치 작동 없이 성적 대상화에 활용됐다.
인도·프랑스 정부는 발빠르게 대응했다. 인도 전자정부기술부는 지난 1일 엑스에 공 바다이야기5만 문을 보내 그록으로 인한 아동·여성 대상 성적 이미지에 대해 72시간 내 조치를 취하고 결과 보고서를 제출하라고 요구했다. 2일에는 프랑스의 성평등부 장관 오로르 베르제, 경제부 롤랑 레스퀴르 장관과 안 르 에낭프 인공지능·디지털 담당 위임장관 등 장관급 3명은 그록 내 성차별적, 성적 콘텐츠 생성을 규탄하는 공동 성명을 내고, 그록의 디지털서비스법(DSA) 위반 여부를 조사하기 위해 해당 사안을 아르콤(프랑스 방송·통신 규제기구)에 회부했다고 밝혔다.
그록 쪽은 원래 안전장치가 마련돼 있었으나, 일부 이용자가 이를 ‘우회’해서 성착취물을 생성했으므로 안전장치를 보완하겠다는 입장이다. 엑스에이아이의 이용 약관상 ‘음란한 방식의 인물 묘사’는 금지돼 있다. 하지만 외신들은 그록이 챗지피티, 제미나이 등과 경쟁하며 ‘덜 검열하는’ 인공지능인 점을 내세우는 과정에서 성적 콘텐츠에 대한 필터링·감시·신고 등을 포괄하는 정책도 허술하게 만들어둔 게 이번 사태의 핵심 원인이라고 지적한다.
국내에서 이미지 생성 인공지능을 통해 아동·청소년 성착취물을 제작·소지할 경우 ‘아동·청소년의 성보호에 관한 법률’(청소년성보호법)에 따라 처벌받을 수 있다. 2023년 영국 스타트업 스태빌리티에이아이(AI)의 인공지능 ‘스테이블 디퓨전’을 이용해 아동 성착취물을 만든 40대 남성이 청소년성보호법 위반 혐의로 재판에 넘겨져 유죄를 받은 사례가 있다. 성인 여성 딥페이크 성착취의 경우 현행 법제도상 실제 인물이 ‘피해자’로 존재해야 처벌이 가능한 상황이라, 사진·영상 속 사람을 실존 인물로 식별 가능한지 여부와 관계 없이 딥페이크 성착취물을 규제할 수 있어야 한다는 지적도 나온다.
김효실 기자 trans@hani.co.kr