【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[실시간뉴스]디스코드 정책담당 수석 "AI 기술로 청소년 성착취물 유통 방지"

온카뱅크관리자

2024-09-02 07:10:30

<div id="layerTranslateNotice" style="display:none;"></div> 청소년 헌장·보호자 가이드라인 제작 주도한 바달리치 디렉터 "아동 안전 관련 사건 당국에 보고…각국 수사기관 정보요청 협조" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="urIEnryj73">
 <figure class="figure_frm origin_fig" dmcf-pid="74Q2p4iBUF" dmcf-ptype="figure">
 <img alt="사바나 바달리치 디스코드 수석 정책 담당 디렉터 [디스코드 제공. 재판매 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/02/yonhap/20240902070309402ddsb.jpg" data-org-width="500" dmcf-mid="0zR47Po9pU" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202409/02/yonhap/20240902070309402ddsb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 사바나 바달리치 디스코드 수석 정책 담당 디렉터 [디스코드 제공. 재판매 및 DB 금지]
 </figcaption>
 </figure>
 (서울=연합뉴스) 김주환 기자 = 전 세계 게이머가 활발히 사용하는 메신저 앱 디스코드(Discord)의 정책 담당자가 "AI(인공지능) 기술을 활용해 청소년 성착취물과 유해 콘텐츠를 탐지해 차단하는 데 주력하고 있다"고 밝혔다.
 디스코드에서 콘텐츠 및 청소년 안전 정책 전반을 총괄하는 사바나 바달리치 수석 정책 담당 디렉터는 2일 연합뉴스와 서면 인터뷰에서 이같이 밝혔다.
 미국 샌프란시스코에 본사를 둔 디스코드는 전 세계 월간 활성 이용자(MAU)가 2억 명에 달하는 동명의 메신저 앱을 운영한다.
 디스코드는 손쉽게 다른 사람과 음성 채팅을 시작하고, 다양한 주제의 커뮤니티를 관리할 수 있는 기능이 주목받으며 10대 청소년층과 20대∼30대 게이머를 중심으로 인기를 끌어왔다.
 최근에는 넥슨, 크래프톤 같은 국내 대형 게임사들도 의견 수렴과 커뮤니티 형성을 위해 게임별로 공식 디스코드 채널을 운영하고 있다.
 바달리치 디렉터는 "디스코드 이용자 90% 이상은 게이머로, 매달 수천 개의 다양한 게임 타이틀에 총 15억 시간 이상을 보내고 있다"고 말했다.
 그러나 최근 디스코드는 이런 용도와 무관하게 성 착취물이나 불법 프로그램, 안보 침해 정보를 유통하는 통로로도 악용되기도 했다.
 <figure class="figure_frm origin_fig" dmcf-pid="V8xVU8nbuY" dmcf-ptype="figure">
 <img alt="청소년들과 인터뷰하는 사바나 바달리치 디스코드 수석 정책 담당 디렉터(왼쪽) [사바나 바달리치 디렉터 제공. 재판매 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/02/yonhap/20240902070309509fqxj.jpg" data-org-width="500" dmcf-mid="pXnxKeA8up" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202409/02/yonhap/20240902070309509fqxj.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 청소년들과 인터뷰하는 사바나 바달리치 디스코드 수석 정책 담당 디렉터(왼쪽) [사바나 바달리치 디렉터 제공. 재판매 및 DB 금지]
 </figcaption>
 </figure>
 이와 관련해 바달리치 디렉터는 "2021년 AI 기반 필터링 기술 기업 센트로피(Sentropy)를 인수한 이래 유해 콘텐츠 차단 기술을 고도화해왔다"며 그 사례로 지난 5월 도입한 오토모드(Automod)를 소개했다.
 오토모드는 기계 학습을 통해 유해한 콘텐츠나 악성코드 링크, 심각한 모욕성 발언 등을 걸러내고 커뮤니티 운영자의 사전 설정에 맞춰 이용자 제재를 자동으로 수행할 수 있도록 도와주는 도구다.
 또 AI 모델과 이미지 식별·추적 도구 '포토DNA'를 통해 성 착취물 유통을 감시하고 각국 수사기관과 협력하고 있다고 밝혔다.
 바달리치 디렉터는 "아동 안전과 관련한 모든 사건을 미국 실종학대아동방지센터(NCMEC)에 보고하고 있으며, 이용자의 개인정보와 권리를 존중하되 법 집행 기관의 정보 요청이 들어오면 협조한다"며 "긴급한 안전 위협의 경우 직접 사안을 수사기관에 보고하고 수사에도 적극 협력하고 있다"고 강조했다.
 바달리치 디렉터는 디스코드가 이달 초 청소년 이용자의 안전한 이용을 위해 발표한 '청소년 헌장'과 '보호자를 위한 가이드' 제작을 주도했다.
 그는 "작년 말부터 전 세계에서 운영한 청소년 대상 포커스 그룹과 미국·유럽 청소년 안전 전문 기관과 협력해 가이드라인을 만들었다"며 "특히 교사와 학부모가 디스코드의 기능에 대해 알고, 청소년의 긍정적인 온라인 행동을 위한 대화를 시작하는 데 주력하고 있다"고 말했다.
 <figure class="figure_frm origin_fig" dmcf-pid="xV6K3Vdzph" dmcf-ptype="figure">
 <img alt="디스코드 '보호자를 위한 가이드' [디스코드 제공. 재판매 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/02/yonhap/20240902070309619wwhl.jpg" data-org-width="500" dmcf-mid="UKji8orR70" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202409/02/yonhap/20240902070309619wwhl.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 디스코드 '보호자를 위한 가이드' [디스코드 제공. 재판매 및 DB 금지]
 </figcaption>
 </figure>
 jujuk@yna.co.kr
 ▶제보는 카톡 okjebo
 </section> 
 </div> 
 Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지

[잇슈 컬처] ‘섭외 1순위’ 오페라 스타 안젤라 게오르규 내한 ‘컴백’ DAY6 “인기 요인? 좋은 곡은 언젠가 빛을 발해” [일문일답]

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기