【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]"머리카락·혈류 수상해"…딥페이크 생성 기술로 딥페이크 잡는다

온카뱅크관리자

2024-10-07 07:01:04

<div id="layerTranslateNotice" style="display:none;"></div> 딥페이크 탐지·생성 억제 R&amp;D 20억 예산…규제당국·플랫폼 수요 대응 연구진 "적대적 생성 신경망 및 확산 기술 역이용…범용성 향상 숙제" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="YlBOvf2XFw">
 <figure class="figure_frm origin_fig" dmcf-pid="GoWJa5XD0D" dmcf-ptype="figure">
 <img alt="ⓒ News1 김지영 디자이너" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/07/NEWS1/20241007070104434rykk.jpg" data-org-width="560" dmcf-mid="Wo3cmzuSur" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/07/NEWS1/20241007070104434rykk.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 ⓒ News1 김지영 디자이너
 </figcaption>
 </figure>
 (서울=뉴스1) 윤주영 기자 = 최근 딥페이크 성 착취물 처벌 기준이 강화하면서 영상물이 딥페이크인지 가려내는 기술의 필요성도 커졌다. 과학기술정보통신부는 내년 20억 원 예산을 들여 당국 실무자와 플랫폼이 활용할 만한 탐지 및 생성 억제 기술을 연구한다.
 7일 연구에 참여한 우사이먼성일 성균관대 교수에 따르면 탐지 기술은 딥페이크 생성 소프트웨어(SW)를 응용한 인공지능(AI) 모델에 기반한다.
 그에 따르면 보통 딥페이크 생성에는 적대적 생성 신경망(GAN), 스테이블 디퓨젼 등 기술이 쓰인다.
 적대적 생성 신경망은 가짜 이미지를 만드는 '생성 AI 네트워크'와 이것이 가짜인지 검증하는 '판별 네트워크' 간 경쟁으로 작동한다. 이런 경쟁을 반복하면 실사와 분간하기 어려운 비디오·이미지가 생성된다.
 스테이블 디퓨젼은 영국의 AI 기업 스태빌리티 AI가 오픈소스로 보급한 모델이다. 간단한 명령어 입력만으로 이미지 등을 생성할 수 있다. 원본 이미지가 노이즈로 붕괴하는 과정을 역이용해 무작위 노이즈에서 고품질 이미지를 뽑아내는 '확산'을 이용했다.
 업계는 GAN의 판별 네트워크 등을 별도로 떼어내 탐지 설루션에도 활용할 수 있다고 전망한다. 우 교수의 연구 역시 이런 방향성이다.
 우 교수는 "딥페이크 생성 SW를 응용한 모델을 구축한 뒤 딥페이크의 특징이 될 만한 시각 데이터를 학습시킬 것"이라며 "어색한 머리카락, 혈류, 동공뿐만 아니라 비디오의 프레임 끊김, 인물 뒤 배경 등이 활용될 수 있다"고 설명했다.
 또 AI 모델이 시각 데이터를 생성하는 것 자체를 억제하는 기술도 연구한다.
 그는 "누드 등 특정 콘셉트의 콘텐츠는 아예 AI 모델이 생성하지 못하도록 하는 억제 설계를 연구할 계획"이라며 "기존 키워드 기반 검열이나 블러 등 후처리 방식보다 정교하면서도 일반적인 사용성을 저해하지 않는 게 목표"라고 말했다.
 숙제는 탐지 설루션의 범용성을 높이는 것이다. 방어 기술을 회피하고자 딥페이크 생성 SW 방식이 계속 변주되고 있어서다.
 우 교수는 "특정 생성 SW에 기반한 탐지 설루션은 다른 생성 방식을 탐지하는 데 서투르다는 한계가 있었다"며 "AI 전이학습 등 방법을 통해 성능 저하를 저감할 방법을 연구할 예정"이라고 부연했다.
 이런 설루션의 수요처는 디지털 콘텐츠 심의를 맡은 규제당국, 이에 협조하는 플랫폼 등 업계다. 불법 영상을 신고하는 시민에도 폭넓게 보급돼야 한다.
 우 교수는 "개방 연구실 형태인 리빙랩 구성 후 각계각층의 의견을 수렴할 것"이라며 "국가기관과 플랫폼에 먼저 애플리케이션 프로그래밍 인터페이스(API) 형태로 제공할 계획"이라고 말했다.
 legomaster@news1.kr 
 </section> 
 </div> 
 Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.

의도하지 않은 최대주주 변경, KT 김영섭의 억울한 국감행 [문화연예 플러스] '대도시의 사랑법' 예매율, '조커: 폴리 아 되' 제쳐

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기