【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]딥페이크 성범죄 막겠다고?…'규제'보다 중요한 것[딥페이크 '두 얼굴'③]

온카뱅크관리자

2024-08-31 10:01:12

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">딥페이크 범죄 확산 제도적 장치 부재 지적 이어져 <br>워터마크 표기 의무화, 플랫폼 콘텐츠 유통 감독 등 다양한 규제책 예고<br>전문가들 "법·제도만으로 한계…기술 변화 맞는 디지털 윤리·교육 절실"</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="6j7zHrrRBR">
          <figure class="figure_frm origin_fig" dmcf-pid="Pyed955r9M" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202408/31/newsis/20240831100112209weuw.jpg" data-org-width="640" dmcf-mid="fuYGmiiB2J" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202408/31/newsis/20240831100112209weuw.jpg" width="658"></p>
          </figure>
          <p dmcf-pid="QYJiVtts9x" dmcf-ptype="general">[서울=뉴시스]윤정민 심지혜 최은수 기자 = 딥페이크를 악용한 불법 합성물이 부쩍 늘어난 데는 이를 막을 제도가 부실했기 때문이라는 지적이 나오고 있다. 이에 국회가 딥페이크 악용을 막을 관련 법안을 잇달아 발의하고 정부도 대응책 마련에 팔을 걷어 부쳤다.</p>
          <p dmcf-pid="xd51haaVKQ" dmcf-ptype="general">▲성범죄 관련 딥페이크 콘텐츠 제작 처벌 강화·콘텐츠 소지에 대한 처벌 도입 ▲저작자 등을 밝히는 표식(워터마크) 표기 의무화 ▲콘텐츠를 유통하는 플랫폼 기업의 모니터링 강화 등이 딥페이크 범죄 확산을 막을 방안으로 꼽힌다.</p>
          <p dmcf-pid="yr2V3lloqP" dmcf-ptype="general">전문가들은 인공지능(AI) 기술 부작용을 최소화할 수 있는 규제가 어느 정도 불가피하다고 말한다. 다만 어떤 규제로든 현실적으로 모든 유형의 딥페이크 성범죄를 막을 순 없다. 이에 따라 빠르게 진화되고 있는 디지털 기술 변화와 새로운 성인지 감수성에 맞는 미디어 윤리 의식과 교육 시스템이 동반돼야 한다고 입을 모은다. </p>
          <h3 dmcf-pid="W1aNQuuSb6" dmcf-ptype="h3"><strong>"딥페이크 음란물 가지고만 있으면 처벌 없었다고?"…국회, 조속 입법 추진</strong></h3>
          <h3 dmcf-pid="YpkEdbbYB8" dmcf-ptype="h3"><strong><strong>한계 뚜렷한 딥페이크 성범죄 방지 방안…"윤리 교육 병행해야"</strong></strong></h3>
          <figure class="figure_frm origin_fig" dmcf-pid="GfSvkMMUb4" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[서울=뉴시스] 권창회 기자 = 한동훈 국민의힘 대표가 29일 오전 서울 여의도 국회에서 열린 딥페이크 성범죄 관련 부처 긴급 현안보고에서 발언하고 있다. 2024.08.29. kch0523@newsis.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202408/31/newsis/20240831100112450hvzt.jpg" data-org-width="720" dmcf-mid="4vu7GwwM9d" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202408/31/newsis/20240831100112450hvzt.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [서울=뉴시스] 권창회 기자 = 한동훈 국민의힘 대표가 29일 오전 서울 여의도 국회에서 열린 딥페이크 성범죄 관련 부처 긴급 현안보고에서 발언하고 있다. 2024.08.29. kch0523@newsis.com
           </figcaption>
          </figure>
          <div dmcf-pid="HWdJ211mff" dmcf-ptype="general">
           <strong><br> 딥페이크 성범죄가 확산된 데는 허위 영상물 관련 처벌이 불법 촬영물보다 약하다는 점이 꼽힌다. 현행 성폭력처벌법(성폭력범죄의 처벌 등에 관한 특례법)에 따르면 '몰래카메라' 등 불법 촬영물을 소지·구입·저장·시청한 자는 3년 이하의 징역 또는 3000만원 이하의 벌금에 처하도록 하고 있다.<br><br> 하지만 허위 영상물의 경우 편집·합성·가공·반포(유포)한 자에게 처벌할 수 있지만 소지·구입·저장·시청한 자를 처벌하는 조항이 없다. 이에 성폭력 범죄와 연관된 허위 영상물 소지·구입·저장·시청한 자에게도 처벌할 수 있도록 한 성폭력처벌법 개정안이 잇달아 발의됐다.<br><br> 또 불법 촬영물 반포한 자의 최대 형량은 징역 7년이지만 허위 영상물 반포 최대 형량은 징역 5년이다. 이에 당정은 지난 29일 국회에서 딥페이크 성범죄 관련 부처 긴급 현안보고를 열고 성 착취물 등 허위 영상물을 제작·배포하는 행위에 대한 형사 처벌 강화를 추진하겠다고 밝혔다.<br><br> 인공지능(AI) 기반 합성물에 'AI가 만든 영상입니다' 등과 같은 표식(워터마크)이나 제작자를 파악할 수 있는 메타데이터를 의무 삽입하는 AI기본법(인공지능 산업진흥 및 신뢰기반 조성 등에 관한 법률안) 논의도 탄력이 붙을 전망이다.<br><br> 이미 지난 6월 국민의힘이 당론으로 제출한 AI 기본법 제정안은 사업자를 대상으로 생성형 AI 서비스에 대한 사전 고지 및 워터마크 표시 등 기본적인 규제사항을 준수할 것을 요구하는 내용을 담고 있다.<br><br> 조인철 더불어민주당 의원이 대표 발의한 '인공지능 산업 육성 및 신뢰 회복에 관한 법률안'도 AI 관련 사업·연구 지원과 함께 AI 잠재적 위험성 제거 등의 내용을 담았다.<br><br> </strong>
          </div>
          <figure class="figure_frm origin_fig" dmcf-pid="XZog6pphqV" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[서울=뉴시스] 추상철 기자 = 29일 오후 서울 강남구 강남역 앞에서 열린 서울여성회와 서울여성회 페미니스트 대학생 연합동아리의 '딥페이크 성범죄 규탄' 여성 시민·대학생 긴급 기자회견에서 참가자가 구호를 외치고 있다. 2024.08.29. scchoo@newsis.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202408/31/newsis/20240831100112583avyv.jpg" data-org-width="720" dmcf-mid="86Z5Cgg2Ke" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202408/31/newsis/20240831100112583avyv.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [서울=뉴시스] 추상철 기자 = 29일 오후 서울 강남구 강남역 앞에서 열린 서울여성회와 서울여성회 페미니스트 대학생 연합동아리의 '딥페이크 성범죄 규탄' 여성 시민·대학생 긴급 기자회견에서 참가자가 구호를 외치고 있다. 2024.08.29. scchoo@newsis.com
           </figcaption>
          </figure>
          <div dmcf-pid="ZRXZIoo922" dmcf-ptype="general">
           <br> 관건은 AI기본법이 딥페이크 성범죄 확산을 막는데 얼마나 기여할 수 있느냐다. 전문가와 업계 관계자들은 워터마크 표시 의무화, 딥페이크 음란물 생성·유통 책임을 플랫폼 기업에 책임을 지우도록 하는 규제에 대해 필요성을 공감하면서도 실효성에 의문을 제기했다.
          </div>
          <p dmcf-pid="5r2V3llob9" dmcf-ptype="general">딥페이크 콘텐츠 제작 프로젝트에 참여한 한 개발자는 "워터마크는 말 그대로 표식일 뿐이라 딥페이크를 악용하는 사람은 신경 쓰지 않을 것이다. 결국 피해자에게 상처를 주는 건 똑같다"고 말했다.</p>
          <p dmcf-pid="1yed955rbK" dmcf-ptype="general">워터마크 부착도 기술력이나 자금이 부족한 스타트업 및 중소기업의 산업 진출을 막을 수 있다는 우려가 있다. 스타트업 업계 관계자는 "워터마크 부착 기술 개발이 쉽지 않아 스타트업에 (워터마크 부착 의무화는) 시기상조라는 입장"이라며 "기술력을 정부에서 지원해 주든지 유예가 필요하다"고 말했다.</p>
          <p dmcf-pid="to0pykkPKb" dmcf-ptype="general">플랫폼 기업에 책임을 지우도록 하는 점도 국내외 기업 역차별 문제를 낳을 수 있다. 이번 딥페이크 성범죄물 확산에는 텔레그램 영향이 컸다. 텔레그램은 익명성 보장을 극대화한 메신저라 수사당국도 수사하기 까다로운 앱으로 꼽힌다. 이에 텔레그램은 마약 거래, 음란물 유통 창구 등으로 활용돼 왔다.</p>
          <p dmcf-pid="FaUuYDDx2B" dmcf-ptype="general">또 어떤 규제를 도입해도 개인이 범죄 수단으로 이용하기 위해 개발한 딥페이크 프로그램까지 워터마크 의무화 등을 강제하기 힘들다는 한계도 있다. 이번에 문제가 된 나체 사진 합성을 돕는 텔레그램 봇에도 워터마크를 강제로 부착시킬 가능성은 작다.</p>
          <p dmcf-pid="3kBb5OOJVq" dmcf-ptype="general">결국 생성형 AI 기술 악용에 대응하는 규제와 함께 기술을 안전하고 올바르게 쓰는 방법을 교육하는 게 병행해야 한다는 게 전문가들의 주장이다.</p>
          <p dmcf-pid="09ChjPP3Vz" dmcf-ptype="general">김명주 서울여대 정보보호학과 교수는 "범죄인 줄 모르고 재미를 위해서 딥페이크를 썼다고 생각하는 사람이 있을 수 있다. AI 도구가 긍정적인 방향으로 쓰일 수 있도록 교육이 같이 이뤄져야 한다"고 밝혔다.</p>
          <p dmcf-pid="p8TyDee7f7" dmcf-ptype="general">한진영 성균관대 인공지능융합학과 교수도 최근 한국과학기술단체총연합회가 연 세미나에서 "생성형 AI의 물결을 막을 수 없다. 생성형 AI 시대에 취약계층이 (AI를) 잘 활용할 노력이 필요하다. 기술과 함께 제도, 교육 발전 같이 이뤄져야 한다"고 말했다.</p>
          <p dmcf-pid="UzrmLVVZbu" dmcf-ptype="general"><span>☞공감언론 뉴시스</span> alpaca@newsis.com, siming@newsis.com, eschoi@newsis.com </p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p>

토종 앱 마켓 '원스토어' 세계 무대 나간다 "다 똑같구나" 워킹맘은 이럴 때 사표 '만지작'...퇴사 고민되는 순간 1위는?

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기