【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스][인터뷰] “제페토 속 숨은 범죄자, AI가 미리 잡아낸다”

온카뱅크관리자

2023-03-25 09:01:28

<div id="layerTranslateNotice" style="display:none;"> 
 </div> 미국 GDC 2023서 만난 AI·소셜 플랫폼 업계 3인 AI 기반 유해 콘텐츠 관리 서비스 스타트업 스펙트럼랩스의 데이비스 CEO·소스 총괄 제페토 운영하는 네이버제트의 노준영 리드 ”AI로 플랫폼 내 그루밍·혐오표현 등 범죄 모니터링” ”범죄 근절하는 것 실리콘밸리 기업의 기본” ”각 국가 맞춰 현지화까지” 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="QK6F2m4IzZ">
 <figure class="figure_frm origin_fig" dmcf-pid="xFzT0gujuX" dmcf-ptype="figure">
 <img alt="게임 개발자 컨퍼런스(GDC) 2023이 열린 미국 샌프란시스코 모스콘센터에서 만난 저스틴 데이비스 스펙트럼랩스 CEO(왼쪽), 노준영 네이버제트 리드(중앙), 맷 소스 스텍트럼랩스 리드./실리콘밸리=이소연 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202303/25/chosunbiz/20230325090130659jlzt.jpg" data-org-width="4000" dmcf-mid="f20gOKhVu3" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202303/25/chosunbiz/20230325090130659jlzt.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 게임 개발자 컨퍼런스(GDC) 2023이 열린 미국 샌프란시스코 모스콘센터에서 만난 저스틴 데이비스 스펙트럼랩스 CEO(왼쪽), 노준영 네이버제트 리드(중앙), 맷 소스 스텍트럼랩스 리드./실리콘밸리=이소연 기자
 </figcaption>
 </figure>
 “실리콘밸리는 단순히 ‘돈’만 이야기하지 않는다. 우리는 그 돈을 어떻게 ‘윤리적으로’ 벌지에 대한 이야기도 많이 한다. 인공지능(AI)을 어떻게 활용해 많은 사람들을 안전하게 지킬지에 대해 기업들은 고민하고 투자하고 있다. 글로벌 이용자가 많은 제페토 역시 이러한 미국 현지의 요구를 반영해 유해 콘텐츠 모니터링 AI를 적극적으로 활용하고 있다.”
 미국 샌프란시스코에서 열린 게임 개발자 컨퍼런스(GDC) 2023에서 22일(현지시각) 만난 AI 기반 유해 콘텐츠 관리 서비스 스타트업 스펙트럼랩스(Spectrum Labs)의 저스틴 데이비스 최고경영자(CEO)와 맷 소스 안전관리 총괄, 그리고 이들과 협업 관계를 맺어 소셜 플랫폼 제페토 내 안전을 관리하는 네이버제트의 노준영 안전전문팀 겸 글로벌사업 리드는 이렇게 말했다.
 스펙트럼랩스는 미국 샌프란시스코에서 2016년 설립된 회사로 온라인 게임·소셜 플랫폼상 텍스트와 음성 등을 AI로 수집·분석해 유해한 이용자를 모니터링하는 서비스를 제공한다. 회사는 라이엇게임즈, 네이버제트 등 글로벌 업체에 키워드 분석 AI 모델로 성희롱·욕설·혐오 표현 등 유해 활동을 감지해 알려줄 뿐만 아니라 다양한 대화를 수집해 맥락을 파악한 AI가 그루밍 범죄·불법적인 금전 거래 등 어려운 범죄까지 잡아낸다. 지난해 시리즈 B 투자 유치에 성공해 누적 4500만달러(약 582억원)의 투자를 받았다.
 <figure class="figure_frm origin_fig" dmcf-pid="GSHET6YxUW" dmcf-ptype="figure">
 <img alt="스펙트럼랩스의 AI는 플랫폼 이용자의 텍스트와 음성 등을 분석해 유해한 활동 정보를 제공한다./스펙트럼랩스 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202303/25/chosunbiz/20230325090132047oycl.jpg" data-org-width="1146" dmcf-mid="6nkU8CQSU1" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202303/25/chosunbiz/20230325090132047oycl.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 스펙트럼랩스의 AI는 플랫폼 이용자의 텍스트와 음성 등을 분석해 유해한 활동 정보를 제공한다./스펙트럼랩스 제공
 </figcaption>
 </figure>
 “AI 기술이 발전하면서 우리는 단순히 쉽게 포착할 수 있는 욕설이나 혐오표현 등 특정 단어만을 걸러내는 기능을 넘어 방대한 대화를 AI가 분석해 그 대화의 맥락 속 보이지 않는 범죄 의도까지도 읽어낼 수 있는 수준까지 왔다.”(저스틴 데이비스 CEO)
 데이비스 CEO는 마이크로소프트, 어도비, 세일즈포스 등 빅테크에서 광고, 마케팅, 제품관리 등 업무를 맡다 2018년 스펙트럼랩스를 창업했다. 다양한 회사에서 온라인 이용자의 행동 방식 등을 관찰한 그는 유해한 행동을 하는 이용자를 솎아 내기 위해선 AI 기술이 단순 키워드를 넘어 방대한 대화 등 맥락을 이해할 수 있는 데이터를 학습해야 한다는 점을 깨달았다.
 그는 “예컨대 온라인 플랫폼에서 미성년자를 대상으로 그루밍 범죄를 하는 경우 오히려 표면적으로는 아이에게 상냥하게 대하고 유해한 특정 단어를 말하는 것이 아니기 때문에 기존 AI로는 쉽게 이를 포착할 수 없다”라며 “그렇기 때문에 그루밍 범죄자가 실제 하는 다양한 대화를 학습한 AI가 ‘나쁜 말’을 하지 않더라도 ‘나쁜 의도’를 가진 대화까지도 이해할 수 있도록 AI를 트레이닝하고 있다”라고 했다.
 물론 AI를 고도의 수준으로 학습시키는 것은 어려운 일이라고 데이비스 CEO는 말했다. 그러나 스펙트럼랩스 등 실리콘밸리의 스타트업이 이러한 기술에 대한 투자가 가능한 것은 플랫폼에 장기적으로 투자하기 위해 이들의 서비스를 사용하는 기업이 늘고 있기 때문이다. 제페토 역시 그중 하나로 제페토는 플랫폼 내 미성년자에 대한 적극적인 관리가 필요하다는 목소리를 반영해 스펙트럼랩스의 AI 서비스를 활용하고 있다.
 <figure class="figure_frm origin_fig" dmcf-pid="1OTNC2S4Fl" dmcf-ptype="figure">
 <img alt="제페토 소셜플랫폼 내 캐릭터./네이버제트 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202303/25/chosunbiz/20230325090134483ewgn.jpg" data-org-width="884" dmcf-mid="PoWAlfT675" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202303/25/chosunbiz/20230325090134483ewgn.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 제페토 소셜플랫폼 내 캐릭터./네이버제트 제공
 </figcaption>
 </figure>
 노 리드는 “청소년을 포함한 이용자를 학교폭력, 그루밍 등 범죄로부터 막아 안전한 환경을 마련하는 것은 정부, 교육계, 학부모뿐 아니라 플랫폼을 운영하는 회사의 역할이기도 하다”라며 이에 대한 사회적인 합의가 이미 미국에선 이뤄졌다고 했다. 글로벌 이용자가 90%에 육박하는 네이버제트는 글로벌 추세에 따라 플랫폼을 운영하기 위해 미국 지사를 통해 관련 기술에 적극적으로 투자하고 있다고 했다.
 노 리드는 캘리포니아주립대 어바인캠퍼스에서 범죄학 석사를 전공했으며 JP모건 체이스 등 금융사에서 테러 자금 및 자금 세탁 수사 업무, 미국 국토안보부에서 대테러팀 수사, 틱톡에서 안전관리 업무 등을 맡다 네이버제트 미국 지사에 합류했다.
 그는 “소셜 플랫폼은 단순히 많은 사람을 데려와 플랫폼을 확장하는 데에서 역할이 끝나지 않는다”라며 “특히 제페토는 온라인 환경에 태어날때부터 익숙하지만 아직 관련 범죄에 어떻게 성숙하게 대응해야 하는지는 충분히 교육받지 못한 미성년자가 많이 이용하는 만큼 온라인 속 안전한 환경 구축에 많은 투자를 하고 있다”라고 했다.
 온라인 유해환경 모니터링은 제페토처럼 특정 국가가 아닌 다양한 국가의 이용자를 대상으로 이뤄지는 만큼 각 국가에 맞춰 AI를 현지화하는 작업 역시 이뤄지고 있다. 소스 총괄은 “제페토를 위한 모니터링 AI의 경우, 예컨대 한국에 특화된 이용 패턴을 AI가 학습할 수 있도록 한국 문화와 한국어를 잘 알고 있는 언어 전문가 등을 따로 고용해 AI에 언어를 새롭게 학습시킨다”라며 “각 국가에서 이용자가 불편하다고 느끼는 언어와 행동은 모두 다르기 때문에 조금 시간이 걸리더라도 AI는 각 문화권에서 보다 세심하게, 다른 방식으로 작동되도록 학습돼야 한다”라고 했다.
 소스 총괄은 교육 스타트업인 아이캔헬프를 공동 창업했고 틱톡에서 플랫폼 안전관리 업무 등을 거쳐 2021년 스펙트럼랩스에 합류했다. 그는 “GDC에서 만난 업계 관계자들이 입을 모아 ‘AI의 현지화가 정말 중요하다’라고 말했다”라며 “AI 기술이 빠르게 발전하는 가운데 AI가 특정 국가의 문화만을 반영하지 않도록 다양한 데이터를 학습시키는 것 역시 중요해질 것이다”라고 했다.
 - Copyright ⓒ 조선비즈 &amp; Chosun.com -
 </section> 
 </div> 
 - Copyrights ⓒ 조선비즈 &amp; Chosun.com, 무단 전재 및 재배포 금지 -

與 "'한동훈 탄핵·민형배 복당' 외치는 野, 탈우주급 뻔뻔함" 4200만 원 세금으로 그리스 '태후' 촬영지 다녀온 고양시의원들

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기