【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[실시간뉴스]한살 아이에 ‘비키니’…xAI ‘그록’, 아동성착취 이미지 올렸다 삭제

온카뱅크관리자

2026-01-03 07:57:51

<div id="layerTranslateNotice" style="display:none;"></div> 그록, 성적 이미지 허용하며 이용자 늘려와…오픈AI도 성인 기능 도입 예고 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="pWhszHwahg">
 <figure class="figure_frm origin_fig" contents-hash="210b809491c98b08d9ee37ffc914279614239ecfd6aa74ba561ccc2ef068d69b" dmcf-pid="UYlOqXrNTo" dmcf-ptype="figure">
 <img alt="일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 ‘그록’ 의 로고. 로이터연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/03/munhwa/20260103074637214qpai.jpg" data-org-width="640" dmcf-mid="0j2BAM71ya" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/03/munhwa/20260103074637214qpai.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 ‘그록’ 의 로고. 로이터연합뉴스
 </figcaption>
 </figure>
 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 ‘그록’이 비키니 수영복 등을 입은 아동의 이미지를 게시했다가 신고를 받고 삭제했다.
 2일(현지시간) 그록의 엑스(X·옛 트위터) 공식 계정에 따르면 이 챗봇은 최근 ‘최소한으로 옷을 입은 미성년자’를 묘사한 사진을 여러 건 게시했다.
 이들 사진은 일부 이용자들의 요청에 따라 생성된 것으로, 이 가운데는 1∼2세 영유아로 보이는 아동 사진도 포함된 것으로 나타났다.
 그록은 원래 이처럼 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 ‘안전장치’를 마련하고 있으나, 일부가 이를 우회한 것으로 보인다.
 그록은 한 이용자가 문제를 제기하자 “안전장치의 허점을 확인했다”며 “긴급히 수정 중”이라고 밝히고, 문제가 된 사진을 삭제했다.
 비록 xAI 측은 안전장치 상의 문제라고 설명했으나, 일각에서는 그록이 그간 성적 콘텐츠를 허용하는 방식으로 이용자를 늘려왔다고 지적하고 있다.
 챗GPT와 제미나이, 클로드 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격히 금지하고 있지만, 그록은 ‘표현의 자유’ 등을 내세워 이를 막지 않고 있다.
 지난해 8월 이미지·영상 생성 모델을 출시하면서 성적인 이미지를 생성할 수 있는 이른바 ‘매운맛 모드’(Spicy Mode)도 함께 내놓은 것이 대표적인 사례다.
 이 때문에 그록은 당시에도 유명 연예인을 성적으로 묘사하는 딥페이크 영상을 생성하는 도구가 되고 있다는 비판을 받았다. 성인물을 뜻하는 ‘xxxAI’라는 불명예스러운 별명을 얻기도 했다.
 그록이 이처럼 검열을 최소화한 방식으로 인기를 끌자 샘 올트먼 오픈AI 최고경영자(CEO)도 챗GPT에 성인 인증을 받은 이용자들이 성적 콘텐츠를 이용할 수 있도록 하는 기능을 도입하겠다고 지난 10월 밝히기도 했다.
 그러나 아동을 성적으로 대상화하는 성 착취물의 생성이나 소지 등은 미 연방법에 따라 금지돼 있어, 성인을 대상으로 한 기능에서도 허용될 수 없다.
 xAI는 주요 외신들의 논평 요청에 대해 “기성 언론은 거짓말을 한다”(Legacy Media Lies)고 답했는데, 이는 언론사의 이메일에 대한 자동응답 답변이라고 CNBC는 설명했다.
 정선형 기자
 </section> 
 </div> 
 Copyright © 문화일보. 무단전재 및 재배포 금지.

'죽음과 생존 가른 잠깐의 선택'...2명 사망한 치명적 교통사고, "앤서니 조슈아, 사고 직전 좌석 바꿔 가까스로 죽음 피해" 김정은, 새해 첫 현지지도는 신의주 농장…후계 염두 ‘청년’ 강조 행보

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기