【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]챗GPT, 20초면 개인정보 탈취→피싱메일

온카뱅크관리자

2025-02-24 11:37:29

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">KAIST, LLM 사이버공격<br>악용 가능성 실험적 규명<br>피싱 클릭 확률 46.67%↑<br>AI기반 공격 심각성 시사</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="uRyiPng2Rh">
          <figure class="figure_frm origin_fig" contents-hash="e7fa7e478191f8da9147060713b0051fa5025266472f4dc55eaa25da82c8665c" dmcf-pid="7ujB3b2XJC" dmcf-ptype="figure">
           <p class="link_figure"><img alt="KAIST 전기및전자공학부의 김한나(아랫줄 왼쪽부터 시계반대방향) 박사과정생, 신승원 교수, 송민규 박사과정생, 이기민 KAIST 김재철AI대학원 교수, 나승호 KAIST 전기및전자공학부 박사  [KAIST 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/24/ned/20250224113102956xjja.png" data-org-width="1202" dmcf-mid="UuaztqKGdl" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/24/ned/20250224113102956xjja.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            KAIST 전기및전자공학부의 김한나(아랫줄 왼쪽부터 시계반대방향) 박사과정생, 신승원 교수, 송민규 박사과정생, 이기민 KAIST 김재철AI대학원 교수, 나승호 KAIST 전기및전자공학부 박사 [KAIST 제공]
           </figcaption>
          </figure>
          <p contents-hash="8dc578efd138436df0a66ab2261ac3dd7076aeef8a994fa9abd6a3feea71f8f6" dmcf-pid="z7Ab0KVZMI" dmcf-ptype="general">“챗GPT가 단 20초에 개인정보를 탈취해 피싱 메일을 보냈다.”</p>
          <p contents-hash="cb83d37e16f0f72b1223ddc923de2d9e1470b6deb49c5cb792a43aad847c6717" dmcf-pid="qzcKp9f5JO" dmcf-ptype="general">KAIST는 신승원 전기및전자공학부 교수, 이기민 김재철AI대학원 교수 공동 연구팀이 실제 환경에서 대형언어모델(LLM)이 사이버 공격에 악용될 가능성을 실험적으로 규명했다고 25일 밝혔다.</p>
          <p contents-hash="e9b33165705101af9a07ed45e3fc98cf9fa8d90e980f9d7c29c287759c3348e2" dmcf-pid="Bqk9U241ds" dmcf-ptype="general">최근 LLM의 발전으로 인해 이들이 다양한 도구와 상호작용을 하면서 자율적으로 작업을 수행하는 에이전트 시스템으로 활용되고 있다. 특히 LLM 에이전트는 웹 기반 도구와 결합, 실시간으로 정보를 검색하고 활용할 수 있어 더욱 강력한 기능을 제공한다. 하지만 이러한 발전은 사이버 공격의 위험성을 증가시키는 요소가 되기도 한다. 예를 들어 웹에서 대량의 개인식별정보(PII)를 수집하거나 특정 인물을 사칭하여 잘못된 정보를 퍼뜨릴 수 있으며, 보다 정교한 스피어 피싱 이메일을 생성하여 피싱 공격의 성공률을 높일 수도 있다.</p>
          <p contents-hash="963f1b907011a2f5c5538a0cdbc07f3c73e5956d5658507b2966ad5bf05b52ed" dmcf-pid="bBE2uV8tdm" dmcf-ptype="general">현재 오픈 AI, 구글 AI 등과 같은 상용 LLM 서비스는 LLM이 사이버 공격에 사용되는 것을 막기 위한 방어 기법을 자체적으로 탑재하고 있다. 하지만 연구팀의 실험 결과 이러한 방어 기법이 존재함에도 불구하고 쉽게 우회해 악의적인 사이버 공격을 수행할 수 있음이 확인됐다.</p>
          <p contents-hash="593bcf5773022726e0ff52af0ad21bbaf8ed88d5db22735cd702c189e1b8e2a0" dmcf-pid="KbDV7f6Fdr" dmcf-ptype="general">기존 공격자들이 시간과 노력이 많이 필요한 공격을 수행했던 것과는 달리, LLM 에이전트는 이를 평균 5~20초 내에 30~60원(2~4센트)수준의 비용으로 개인정보 탈취 등이 자동으로 가능하다는 점에서 새로운 위협 요소로 부각되고 있다.</p>
          <p contents-hash="8488994a067916689f7c58f9773e13faa0d71eeb85962628f7155cfa3814d0a4" dmcf-pid="9Kwfz4P3dw" dmcf-ptype="general">연구 결과에 따르면 LLM 에이전트는 목표 대상의 개인정보를 최대 95.9%의 정확도로 수집할 수 있었다. 또 저명한 교수를 사칭한 허위 게시글 생성 실험에서는 최대 93.9%의 게시글이 진짜로 인식됐다.</p>
          <p contents-hash="9af34c0c3b8dad18f220ca0e5e904c3ec7f9ae932cf2db4a2e019a75639ca5cc" dmcf-pid="29r4q8Q0JD" dmcf-ptype="general">뿐만 아니라 피해자의 이메일 주소만을 이용해 피해자에게 최적화된 정교한 피싱 이메일을 생성할 수 있었다. 실험 참가자들이 이러한 피싱 이메일 내의 링크를 클릭할 확률이 46.67%까지 증가하는 것으로 나타났다. 이는 인공지능 기반 자동화 공격의 심각성을 시사한다.</p>
          <p contents-hash="e785b441d967577c7efce2e5948387a22d0921fc4b2ff66dd90d436fe9ef9b39" dmcf-pid="V2m8B6xpRE" dmcf-ptype="general">김한나 KAIST 전기및전자공학부 연구원(박사과정생)은 “LLM에게 주어지는 능력이 많아질수록 사이버 공격의 위협이 기하급수적으로 커진다는 것이 확인됐다”며 “LLM 에이전트의 능력을 고려한 확장 가능한 보안 장치가 필요하다”고 말했다.</p>
          <p contents-hash="ed99907cf095df1ddf99d430a3ca8f32c47f9fa3b52124396b7cf225ec6a72d6" dmcf-pid="fVs6bPMUnk" dmcf-ptype="general">신승원 교수는 “이번 연구는 정보 보안과 AI 정책 개선에 중요한 기초 자료로 활용될 것으로 기대되며, 연구팀은 LLM 서비스 제공업체 및 연구기관과 협력하여 보안 대책을 논의할 계획”이라고 밝혔다.</p>
          <p contents-hash="2f414921703bf0ecafaeeda86871a2e10359e242aa338b9600fed8a2c917c88f" dmcf-pid="4fOPKQRuRc" dmcf-ptype="general">이번 연구 성과는 컴퓨터 보안 분야의 국제 학술대회인 ‘유즈닉스 보안 심포지엄(USENIX Security Symposium) 2025’에서 발표될 예정이다. 구본혁 기자</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 헤럴드경제. 무단전재 및 재배포 금지.</p>

‘가족 생애주기 맞춤형 복지’ 카카오게임즈, 입학철 맞아 임직원 자녀 대상 풍성한 선물 지원 트럼프 ‘나토 탈퇴’하면…유럽 핵전력, 러시아 감당 못해 [최현호의 무기인사이드]

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기