【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[실시간뉴스][사건 포커스] ‘딥페이크’ 제작은 10초 만에 뚝딱, 대응 입법은 지난 국회서 폐기

온카뱅크관리자

2024-08-29 12:14:05

<div id="layerTranslateNotice" style="display:none;"></div> 만든 영상 파일로 다운받아 유포도 가능 ‘워터마크 의무화’ 등 법안 논의 뒤늦게 시작 “입법과 양형 강화 작업 동시 진행돼야” 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="ZWyJY11mUp">
 <figure class="figure_frm origin_fig" dmcf-pid="5SlMvHHEz0" dmcf-ptype="figure">
 <img alt="28일 조선비즈가 직접 딥페이크 앱을 통해 만든 딥페이크 영상. 왼쪽이 기자 얼굴로 만든 딥페이크 영상이고 오른쪽이 원본 영상이다. /최정석 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202408/29/chosunbiz/20240829114906885tuxa.gif" data-org-width="600" dmcf-mid="Gffh2PP377" dmcf-mtype="image" height="auto" src="https://t1.daumcdn.net/news/202408/29/chosunbiz/20240829114906885tuxa.gif" width="600">
 <figcaption class="txt_caption default_figure">
 28일 조선비즈가 직접 딥페이크 앱을 통해 만든 딥페이크 영상. 왼쪽이 기자 얼굴로 만든 딥페이크 영상이고 오른쪽이 원본 영상이다. /최정석 기자
 </figcaption>
 </figure>
 컴퓨터 프로그래밍이나 코딩 등 경험이 전혀 없는 일반인도 스마트폰만 있으면 애플리케이션(앱)으로 10초 만에 딥페이크 사진·영상을 만들 수 있었다. 이렇게 만든 사진·영상은 별다른 제재 없이 소셜미디어(SNS) 등 온라인에 올리거나, 메신저로 주고 받을 수 있다. 누구나 마음만 먹으면 손쉽게 딥페이크 성범죄를 저지를 수 있다는 것이다.
 딥페이크 성범죄를 예방할 마땅한 법안은 없다. 사진이나 영상에 워터마크를 넣는 등의 대응 법안이 지난 국회서 논의됐지만, 회기 만료로 결국 폐기됐다. 당정은 뒤늦게 관련 처벌 강화를 추진하겠다고 밝혔다.
 ◇스마트폰 앱 다운받아, 10초면 사진·영상 제작
 29일 조선비즈는 구글 플레이스토어에서 1억회 이상 다운로드된 딥페이크 앱으로 직접 딥페이크 영상을 제작했다. 딥페이크는 인공지능(AI) 심층학습을 의미하는 ‘딥러닝(deep learning)’과 가짜를 뜻하는 영단어 ‘페이크(fake)’를 합친 단어다. 특정 인물의 얼굴을 AI에 학습시킨 다음, 그 얼굴을 다른 사람이 나온 사진이나 영상에 교묘하게 합성시켜 만든 콘텐츠를 뜻한다.
 영상 제작 방법은 어렵지 않았다. 앱에서 제공하는 여러 영상 중 하나를 고른 뒤, 기자의 얼굴이 담긴 사진 1장을 택했다. 그러자 앱이 얼굴만 따로 추출해냈다. 얼굴 추출이 끝나자 화면 하단에 ‘페이스 스왑(Face Swap·얼굴 바꾸기)’ 버튼이 생겼다.
 이 버튼을 누르면 AI가 딥페이크 영상을 만들기 시작한다. 10초도 안 돼 결과물이 나왔다. 앱을 설치하고 영상과 사진을 고르는 시간까지 합해도 3분이 채 되지 않는다. 영상과 사진을 고른 뒤 버튼만 누르면 딥페이크 영상이 나오는 방식이라 프로그래밍 지식이 전혀 없어도 누구나 손쉽게 접근할 수 있었다.
 ◇ 광고 보면 워터마크 없어져… 영상파일 소장·유포 가능
 <figure class="figure_frm origin_fig" dmcf-pid="uni3LAA80H" dmcf-ptype="figure">
 <img alt="28일 조선비즈가 딥페이크 제작용 앱으로 직접 만든 영상. 왼쪽이 원본이고 오른쪽이 기자 얼굴로 만든 딥페이크다. /최정석 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202408/29/chosunbiz/20240829114911312ywtb.jpg" data-org-width="2152" dmcf-mid="HHE9wCCnFu" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202408/29/chosunbiz/20240829114911312ywtb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 28일 조선비즈가 딥페이크 제작용 앱으로 직접 만든 영상. 왼쪽이 원본이고 오른쪽이 기자 얼굴로 만든 딥페이크다. /최정석 기자
 </figcaption>
 </figure>
 영상 왼쪽 상단에 워터마크가 있긴 했지만 광고 한 편을 보면 없앨 수 있었다. 앱을 통해 만든 딥페이크 영상은 mp4 파일 형태로 소장이 가능했다. 이 파일을 카카오톡과 같은 메신저를 통해 공유하면 다른 사람들도 볼 수 있다. 딥페이크 영상을 만드는 과정에서 ‘본인 사진만 쓰는 것을 권장한다’, ‘무분별한 영상 제작 및 공유는 범죄 행위로 처벌받을 수 있다’와 같은 경고 문구는 하나도 뜨지 않았다.
 다만 앱에서 합성에 쓰도록 제공하는 영상들 중 음란물은 없었다. 앱 제작사 측에서 제공하는 이용 약관에는 “각종 추행, 괴롭힘 등 안전하지 못하다 판단되는 콘텐츠는 제작사 측 재량으로 언제든 예고 없이 삭제할 수 있다”고 쓰여있었다. 구글과 애플 모두 현재 자사 마켓에서 상대방 동의 없이 성적 콘텐츠를 배포하는 데 쓰일 수 있는 앱은 허용하지 않고 있다.
 온라인에서는 입맛에 맞는 영상을 만들 수 있었다. 관련 사이트에 접속하니 합성에 쓰일 영상이 제한돼 있지 않았다. 만들고 싶은 영상 파일과 해당 영상에 넣고 싶은 얼굴이 찍힌 사진 파일만 올려 ‘제작’ 버튼을 누르면 AI가 알아서 영상을 만들어주는 식이다. 성인 영화 등 영상 파일과 누군가의 얼굴이 나온 사진 파일을 갖고 있다면 누구든지 딥페이크 음란물을 만들 수 있다는 뜻이다.
 ◇ 딥페이크 범죄 대응 법안, 폐기 후 뒤늦게 재논의
 <figure class="figure_frm origin_fig" dmcf-pid="baguNDDxUT" dmcf-ptype="figure">
 <img alt="일러스트=정다운" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202408/29/chosunbiz/20240829114912986qwoy.jpg" data-org-width="640" dmcf-mid="XPhxSGGkpU" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202408/29/chosunbiz/20240829114912986qwoy.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 일러스트=정다운
 </figcaption>
 </figure>
 딥페이크 관련 범죄에 대응하기 위한 법안은 국회에서 계류 중이다. 21대 국회 시기였던 지난 2023년 김승수 국민의힘 의원이 대표로 발의한 정보통신망법 일부개정안의 경우, 딥페이크 영상, 음성 등 AI로 만든 거짓 정보를 온라인에 게재할 때 워터마크(식별표시)를 의무화하는 등 내용이 담겼다. 그러나 국회에서 결론을 내리지 못한 채 임기 만료로 폐기됐다.
 22대 국회가 개원한 뒤인 지난 6월 해당 법안은 다시 발의됐다. 이후 최근 딥페이크 범죄가 큰 문제가 되고 나서야 지난 26일 국회 과학기술정보방송통신위원회 전체 회의에서 법안소위로 넘어가는 등 뒤늦게 논의가 시작됐다.
 당정은 딥페이크를 비롯한 허위 영상물 유포 행위에 대한 형사 처벌을 대폭 강화하기로 뜻을 모았다. 김상훈 국민의힘 정책위의장은 이날 오전 국회에서 열린 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’ 종료 후 기자들과 만나 “현행 성폭력처벌법상 허위 영상물의 편집 또는 반포 행위는 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처해지는데, 상한을 7년으로 강화하는 입법이 필요하다는 판단”이라고 말했다.
 다만 입법에는 시간이 걸릴 수 있기 때문에 양형기준을 강화하는 작업도 함께 진행해야 한다는 지적이 나온다. 한국 인공지능법학회 회장인 최경진 가천대 법학과 교수는 “딥페이크 반포, 다운로드, 소유 등을 불법으로 규정해 수요를 원천차단하는 방향에는 동의한다”라면서도 “다만 하루이틀 걸릴 문제가 아니기 때문에 입법 준비를 하면서 디지털 성범죄 양형기준을 강화하는 작업도 필요하다”고 말했다. 대법원 양형위원회에 따르면 허위영상물을 반포하면 가중 처벌까지 받았을 때 최대 형량이 징역 2년 6개월이다. 영리 목적으로 허위영상물을 반포하면 징역 4년이 최대다.
 - Copyright ⓒ 조선비즈 &amp; Chosun.com -
 </section> 
 </div> 
 Copyright © 조선비즈. 무단전재 및 재배포 금지.

"주담대 옥죄기, 거래 줄여도 집값은 못 잡는다" 조희연 교육감직 상실…징역 1년6개월·집행유예 2년 확정

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기