【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]10초면 '흔남'도 백현우처럼…사람 죽이는 딥페이크 이렇게 쉽다

온카뱅크관리자

2024-09-13 04:11:29

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">[MT리포트-디지털 성폭력]②딥페이크 콘텐츠 제작 해보니</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="4yMG2FMUKt">
          <blockquote class="pretip_frm" dmcf-pid="8ukqnfkPf1" dmcf-ptype="pre">
           [편집자주] 성폭력은 물리적 공간에서만 일어나지 않는다. 가상공간에서 캐릭터를 대상으로 한 언어 성희롱부터 실존 인물의 얼굴을 합성한 딥페이크 음란물까지 다양하게 일어난다. 하지만 어디까지가 범죄일지, 어떤 처벌이 적당할지 아직 사회적 공감대는 형성되지 않았다. 실제 성폭력에 버금가는 수준의 트라우마를 남길 수 있는 디지털 성폭력의 현황과 처벌 가능성, 이에 필요한 사회적 논의를 짚어본다.
          </blockquote>
          <div dmcf-pid="6a0AGm0Cq5" dmcf-ptype="general">
           <br>
          </div>
          <figure class="figure_frm origin_fig" dmcf-pid="PMYdIaYcfZ" dmcf-ptype="figure">
           <p class="link_figure"><img alt="'눈물의 여왕'의 백현우(배우 김수현)와 이미지 합성을 한 기자 사진." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041130617qzhs.jpg" data-org-width="752" dmcf-mid="b0Hbo8DxVu" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041130617qzhs.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            '눈물의 여왕'의 백현우(배우 김수현)와 이미지 합성을 한 기자 사진.
           </figcaption>
          </figure>
          <div dmcf-pid="QMYdIaYcbX" dmcf-ptype="general">
           <br>최근 합성음란물 유포 등 딥페이크(이미지 합성) 성범죄가 급증하면서 사회적 문제로 확산되는 가운데, 마우스 클릭 서너 번이면 누구나 쉽게 콘텐츠 제작이 가능한 것으로 나타났다. 단순 '재미' 용도로 개발됐지만, 마음만 먹으면 얼마든지 음란물을 제작해 악용할 소지가 있는 만큼 이용자들의 주의가 요구된다.
          </div>
          <p dmcf-pid="xVC8keCnVH" dmcf-ptype="general">직접 딥페이크 콘텐츠 제작에 도전했다. 고도의 기술력과 거창한 프로그램이 필요할 것이란 기존 생각과 달리 웹사이트와 모바일 앱스토어에선 다양한 AI(인공지능) 얼굴 합성, 딥페이크 제작 앱이 유통되고 있다. 이들 앱 대부분은 기본적인 이미지 합성 기능을 무료로 제공한다. 정기권을 구매(3일 무료 체험 가능)하면 고화질 이미지 합성, 영상합성 등 프리미엄 서비스까지 이용할 수 있다. </p>
          <figure class="figure_frm origin_fig" dmcf-pid="ytg0MBg2fG" dmcf-ptype="figure">
           <p class="link_figure"><img alt="이소룡 영상에 기자 사진을 합성한 영상." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041132216ptpw.gif" data-org-width="320" dmcf-mid="KZXKg6wMfU" dmcf-mtype="image" height="auto" src="https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041132216ptpw.gif" width="320"></p>
           <figcaption class="txt_caption default_figure">
            이소룡 영상에 기자 사진을 합성한 영상.
           </figcaption>
          </figure>
          <p dmcf-pid="W4lPDJloqY" dmcf-ptype="general"><br>대표적으로 '페이스 스와퍼 AI'(웹사이트)와 'AI 픽'(모바일앱) 두 가지 프로그램을 사용했다. 두 앱 모두 AI 기술을 활용해 사용자 얼굴을 대상 이미지에 합성하는 방식이다. 페이스 스와퍼 AI는 기본 이미지 합성 서비스는 무료로 제공하지만 'AI로 옷 갈아입기' '영상 합성' '단체 사진 합성' 등은 유료다. AI 픽은 기본 제공되는 AI 사진에 자신의 사진을 합성하는 식이다. </p>
          <figure class="figure_frm origin_fig" dmcf-pid="Y5LFQzLKqW" dmcf-ptype="figure">
           <p class="link_figure"><img alt="레오나르도 디카프리오와 이미지 합성 사진." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041133602rtpm.jpg" data-org-width="1024" dmcf-mid="9SbvqX8tKp" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041133602rtpm.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            레오나르도 디카프리오와 이미지 합성 사진.
           </figcaption>
          </figure>
          <p dmcf-pid="GukqnfkP9y" dmcf-ptype="general"><br>페이스 스와퍼 AI의 UI(사용자인터페이스)는 직관적이고 이용 방법도 간편했다. 마침 최근 새로 찍은 여권 사진이 있어 이미지 합성에 사용했다. 대상 이미지는 국내외 배우들이다. 이미지 합성 때 중점을 둔 부분은 '얼마나 감쪽같을까' '위화감은 없을까'였다. 감히 영화 '타이타닉'의 레오나르도 디카프리오 스틸컷과 합성해봤다. 제작 시간은 10초 남짓. 살짝 부자연스럽지만 나름 괜찮은 결과물이다. 눈매와 시선 처리, 표정 등을 잘 살렸다. 물론 '잘생김'은 사라졌다.</p>
          <figure class="figure_frm origin_fig" dmcf-pid="HBr9aPrR2T" dmcf-ptype="figure">
           <p class="link_figure"><img alt="영화 '서울의 봄' 전두광(배우 황정민)과 이미지 합성 사진." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041134840rcak.jpg" data-org-width="1007" dmcf-mid="2n4HV3Ruf0" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041134840rcak.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            영화 '서울의 봄' 전두광(배우 황정민)과 이미지 합성 사진.
           </figcaption>
          </figure>
          <p dmcf-pid="XxWeOgWABv" dmcf-ptype="general"><br>아직 내가 생각한 완벽한 딥페이크를 얻지 못했다. 조금 더 자연스러운 결과물을 위해 한국 배우와의 이미지 합성을 시도했다. '눈물의 여왕'의 김수현과 '서울의 봄'의 황정민과 합성하니 디카프리오보다 결과물이 훨씬 만족스러웠다. 리얼리티를 결정하는 요소인 음영 처리와 표정, 얼굴 방향까지 나름 만족할만한 수준이다. 드라마 주인공 실루엣에 내 모습이 담겨 신기했다.</p>
          <figure class="figure_frm origin_fig" dmcf-pid="Z4lPDJlobS" dmcf-ptype="figure">
           <p class="link_figure"><img alt="AI 픽을 활용한 이미지 합성 사진." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041136073iiez.jpg" data-org-width="651" dmcf-mid="VLXAGm0C23" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041136073iiez.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            AI 픽을 활용한 이미지 합성 사진.
           </figcaption>
          </figure>
          <p dmcf-pid="5pA7J2A8bl" dmcf-ptype="general"><br>또 다른 이미지 합성 앱인 AI 픽은 어떨까. 이 앱은 기본 제공되는 AI 사진에 자신의 이미지를 합성하는 방식이다. 페이스 스와퍼 AI보다 위화감은 덜하지만, 완벽한 자연스러움을 추구하다 보니 원본 사진이 많이 사라진 느낌이다. 특정 사진의 경우 아예 내 모습을 찾기 힘들 정도였다.</p>
          <p dmcf-pid="17EBL4EQKh" dmcf-ptype="general">영상도 도전했다. 영상은 사진보다 훨씬 많은 사실감을 요구한다. 정면 사진만 신경 쓰면 되는 이미지 합성과 달리 영상은 표정 변화와 얼굴 측면까지 고려해야 한다. 프로그램을 통해 '이소룡'과 '닥터 스트레인지' 영상을 합성했다. 영상합성 역시 20초 정도로 빠르게 제작됐다. 움직임에 따라 변하는 표정이 꽤 자연스러웠다. 뭔가 웃기면서 어색했지만, 일반 영상으로 제작했다면 감쪽같을 수 있겠다는 생각을 했다.</p>
          <figure class="figure_frm origin_fig" dmcf-pid="tzDbo8Dx9C" dmcf-ptype="figure">
           <p class="link_figure"><img alt="닥터 스트레인지 영상에 기자 사진을 합성한 영상." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041138094seww.gif" data-org-width="320" dmcf-mid="fHLFQzLKBF" dmcf-mtype="image" height="auto" src="https://t1.daumcdn.net/news/202409/13/moneytoday/20240913041138094seww.gif" width="320"></p>
           <figcaption class="txt_caption default_figure">
            닥터 스트레인지 영상에 기자 사진을 합성한 영상.
           </figcaption>
          </figure>
          <p dmcf-pid="Fs2CUW2XqI" dmcf-ptype="general"><br>다양한 딥페이크 콘텐츠 프로그램을 사용해보고 느낀 점은 무서울 정도로 제작이 쉽고 간편하다는 점이다. 10대도 마음만 먹으면 얼마든지 불법 음성 합성물을 만들어 유통할 수 있다. 대부분 프로그램이 별도의 가입 절차가 필요 없다. 이메일 인증이 필요한 앱도 있지만, 추가적인 성인인증 절차를 요구하지 않는다.</p>
          <p dmcf-pid="3SPyb5P3VO" dmcf-ptype="general">AI 기술 발전으로 이젠 이미지와 영상이 진짜인지 가짜인지 의심해야 하는 시대가 왔다. 물론 딥페이크를 잘 활용하면 좋은 기능으로 사용할 수 있지만, 성범죄 등 악용 사례가 발생하면서 이를 규제할 강력한 법적 조치나 제도적 장치가 필요해 보인다. 자신의 사진이 어디서 어떻게 불법으로 활용되는지 모르는 세상에 살아가는 것이 정말 무섭다.</p>
          <p dmcf-pid="0xWeOgWAqs" dmcf-ptype="general">김승한 기자 winone@mt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 머니투데이 &amp; mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지</p>

8년만에…신한울 원전 3·4호기 건설 '최초고백' 조은숙 "배우 그만 두려 했다..금전적 문제" [Oh!쎈 포인트]

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기