【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]해킹당한 챗GPT, 마약·폭탄 제조법 줄줄이 토해냈다

온카뱅크관리자

2024-06-03 11:33:02

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">GPT스토어에 등장한 갓모드<br>오픈AI 사태 심각성 알고 삭제<br>플리니 프롬프터, 우회법 찾아내</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="p0IpGs5ren">
          <figure class="figure_frm origin_fig" dmcf-pid="UTaymoCnJi" dmcf-ptype="figure">
           <p class="link_figure"><img alt="오픈AI가 운영하는 인공지능(AI) 에이전트 ‘챗GPT’가 탈옥 모드로 해킹당했다. 이에 챗GPT는 필로폰 제조·핵무기 제조법 등 금지한 콘텐츠를 줄줄이 생성했다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/03/mk/20240603113303966dfqj.png" data-org-width="700" dmcf-mid="0iAGINSgeL" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/03/mk/20240603113303966dfqj.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            오픈AI가 운영하는 인공지능(AI) 에이전트 ‘챗GPT’가 탈옥 모드로 해킹당했다. 이에 챗GPT는 필로폰 제조·핵무기 제조법 등 금지한 콘텐츠를 줄줄이 생성했다.
           </figcaption>
          </figure>
          <div dmcf-pid="uhNWsghLnJ" dmcf-ptype="general">
           오픈AI가 운영하는 인공지능(AI) 에이전트 ‘챗GPT’가 탈옥 모드로 해킹당했다. 이에 챗GPT는 필로폰 제조·핵무기 제조법 등 금지한 콘텐츠를 줄줄이 생성했다.
          </div>
          <p dmcf-pid="7OovwnOJdd" dmcf-ptype="general">3일 플리니 프롬프터(Pliny the Prompter)라는 해커는 X(옛 트위터)를 통해 자신을 ‘AI 레드 팀’ 멤버라고 소개하면서, 챗GPT에 탈옥(Jail breaking)을 단행한 사례를 공유했다. 정보기술(IT) 업계에서 탈옥은 온갖 필터를 우회해, 나타나서는 안 될 기능을 노출하는 행위를 가리킨다.</p>
          <p dmcf-pid="z1CUHO1mRe" dmcf-ptype="general">플리니 프롬터는 GPT스토어에 ‘갓모드 GPT(GODMODE GPT)’라는 GPTs를 공유했다. GPT는 거짓을 생성하는 환각, 인종과 성별 종교에 대한 편향, 인류에게 위험을 주는 위험한 정보를 자동 차단하는 필터를 갖고 있다. 때문에 이와 관련된 질문을 하면 챗GPT가 자동 차단한다. 하지만 갓모드 GPT를 사용하면, 이런 모든 필터를 우회할 수 있다.</p>
          <p dmcf-pid="qSAGINSgnR" dmcf-ptype="general">플리니 프롬터는 오픈AI 커스텀 GPT 편집기를 사용, 새로운 GPT-4o 모델의 모든 제한을 우회하는 방법을 찾아냈다. 그 결과 AI 챗봇이 욕설을 내뱉게 하고, 자동차 탈취 방법을 생성하게 하고, 심지어 폭탄을 제조하는 방법을 안내하도록 했다. 또 챗GPT가 필로폰 약물에 해당하는 메스암페타민을 만드는 방법을 시연했다.</p>
          <p dmcf-pid="BvcHCjvanM" dmcf-ptype="general">하지만 해당 GPTs는 몇 시간 유지되지 못했다. 정보기술(IT) 매체인 퓨처리즘에 해당 GPTs가 소개됐고 수많은 사람이 몰리자, 이를 인지한 오픈AI가 해당 GPTs를 삭제한 것이다. 플리니 프롬터는 릿스피크(leetspeak)라는 고어 인터넷 슬랭을 활용해 탈옥시킨 것으로 보인다. 릿스피크는 해커 커뮤니티에서 유행하는 글자 작성 방법이다. 숫자나 문자를 다른 숫자와 문자로 대체하는 것이 특징이다. 예를 들어, “cool”을 “kewl”로 작성한다.</p>
          <p dmcf-pid="bUybFvUlex" dmcf-ptype="general">챗GPT의 근간이 되는 GPT는 온라인상에 있는 무료 정보 상당수를 학습했다. 다만 사용자가 악성 정보를 생성하지 못하는 것은 오픈AI가 GPT에 수많은 차단 필터를 부착했기 때문이다. 하지만 릿스피크(leetspeak)에 대한 필터는 없었던 것으로 추정된다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p>

[전혜인의 `폼생폼사`]"이러다 정말 죽겠네"…`유튜브뮤직` 공세에 토종 스트리밍 `한숨` GPU는 대만, CPU는 한국…엔비디아, 새 AI칩 ‘루빈’ 공개

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기