【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]네이버 AI 안전성 연구, ICML 스포트라이트 선정

온카뱅크관리자

2026-07-09 15:37:35

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">KAIST 공동 연구…LLM 취약점 탐색 기술 제안<br>논문 상위 2.2%…학술적 주목도 입증<br>지플로우넷 한계 개선…공격 유형 7배 확대<br>네이버, 글로벌 AI 연구 무대서 존재감 확대</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="FZHixwFYs2">
          <p contents-hash="c21e8d64a54398fe2958b264ed32499d9133523906ca4c3bbd1840c048164f87" dmcf-pid="35XnMr3GO9" dmcf-ptype="general"> [이데일리 신영빈 기자] 네이버(NAVER(035420))가 글로벌 AI 연구 경쟁에서 보폭을 넓히고 있다. 초거대 AI 기술 경쟁이 모델 성능뿐 아니라 안전성·신뢰성 확보로 확장되면서, 네이버의 AI 선행 연구 성과에도 관심이 커지고 있다.</p>
          <p contents-hash="f23863493d7121ed032bf0947c1a05ad30447fad918d608277de0448e6867ea2" dmcf-pid="01ZLRm0HwK" dmcf-ptype="general">9일 정보기술(IT) 업계에 따르면 네이버 AI랩과 KAIST 공동 연구진은 논문 ‘스테이블 지플로우넷: 대조적 궤적 균형 기반의 다양하고 안정적인 LLM 레드티밍 기술’로 ICML 2026 메인 컨퍼런스 스포트라이트 세션에 이름을 올렸다.</p>
          <figure class="figure_frm origin_fig" contents-hash="7c0292f4eb65509ff02a8f2d1decd557be556ea1e7ffd256498078dd9fd18890" dmcf-pid="pt5oespXEb" dmcf-ptype="figure">
           <p class="link_figure"><img alt="네이버 ICML 2026 부스 전경 (사진=신영빈 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/09/Edaily/20260709153051878wqov.jpg" data-org-width="960" dmcf-mid="14bskH4qwf" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/09/Edaily/20260709153051878wqov.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            네이버 ICML 2026 부스 전경 (사진=신영빈 기자)
           </figcaption>
          </figure>
          <div contents-hash="b1be55759c4c61162679caa8f807f6b7701d60f8a1e11d9052b1bde249965418" dmcf-pid="UF1gdOUZsB" dmcf-ptype="general">
           ICML은 뉴립스(NeurIPS), ICLR과 함께 세계 최고 권위의 AI·머신러닝 학회로 꼽힌다. 올해 행사는 지난 6일부터 11일까지 서울 코엑스에서 열렸다. 
          </div>
          <p contents-hash="9910e548a3c323b6a99c8c83c3412c28a693b9a9c035c48d9cdcb0677b4611c1" dmcf-pid="u3taJIu5Oq" dmcf-ptype="general">스포트라이트는 채택 논문 중에서도 학술적 주목도가 높은 연구에 부여되는 발표 형식이다. 올해 ICML 2026에서는 심사에 들어간 논문 2만3918편 가운데 6352편이 채택됐고, 이 중 스포트라이트 논문은 536편에 그쳤다. 전체 심사 논문의 약 2.2% 수준이다.</p>
          <p contents-hash="f366187cf8052576e7b21fedebf451cb6f2b210f9c8d5fb499235ac093fd42be" dmcf-pid="7yvxfjHlOz" dmcf-ptype="general">이번 연구는 LLM 배포 전 안전 취약점을 찾아내는 자동 레드티밍 기술을 다룬다. 레드티밍은 AI 모델이 유해하거나 부적절한 답변을 내놓도록 유도하는 공격 프롬프트를 사전에 찾아내고, 이를 바탕으로 모델의 방어 성능을 높이는 안전성 검증 과정이다.</p>
          <p contents-hash="11d8f06c7e133ec5d16bcc76c21187d3db371ca72c8d5de1ecee44cf95e96b1a" dmcf-pid="zWTM4AXSm7" dmcf-ptype="general">생성형 AI 서비스가 검색, 업무, 교육, 금융 등 실제 서비스로 확산되면서 모델의 취약점을 배포 전에 얼마나 폭넓게 발견하느냐가 중요한 과제로 떠오르고 있다.</p>
          <p contents-hash="63bd949d95c6d8239d7455bc4c44198d6e717030c4d5264f500fe35610101ccf" dmcf-pid="qYyR8cZvru" dmcf-ptype="general">연구진은 기존 생성 흐름 네트워크 지플로우넷 기반 방식이 다양한 공격 유형을 찾는 과정에서 학습이 불안정해지거나 일부 유사한 공격만 반복 생성하는 문제를 개선했다.</p>
          <figure class="figure_frm origin_fig" contents-hash="bf609f6ebe30759a702c04190a300c773dc1db0e8c7d97396fd59e3e60f60000" dmcf-pid="BGWe6k5TrU" dmcf-ptype="figure">
           <p class="link_figure"><img alt="네이버 ICML 2026 부스 전경. 네이버랩스는 월드모델·피지컬 AI 관련 연구 ‘서울 월드 모델’을 소개했다. (사진=신영빈 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/09/Edaily/20260709153053144wiua.jpg" data-org-width="960" dmcf-mid="t1QWhUJ6EV" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/09/Edaily/20260709153053144wiua.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            네이버 ICML 2026 부스 전경. 네이버랩스는 월드모델·피지컬 AI 관련 연구 ‘서울 월드 모델’을 소개했다. (사진=신영빈 기자)
           </figcaption>
          </figure>
          <div contents-hash="702c541ab47e8ceb45d7212307127726bd447cb81f5e555d59e42ca8878324f2" dmcf-pid="bHYdPE1yEp" dmcf-ptype="general">
           이를 통해 공격 성공률을 유지하면서도 더 다양한 취약점 유형을 찾아낼 수 있도록 한 것이 핵심이다. 논문에 따르면 연구진이 제안한 방식은 기존 GFN 대비 고유 공격 유형을 약 7배 늘리면서도 92% 수준의 공격 성공률을 유지했다.
          </div>
          <p contents-hash="7c5f8b83681436f7916152b2effd1f42b11d5d021cc7d61ac178cc31b42ad1d3" dmcf-pid="KXGJQDtWD0" dmcf-ptype="general">업계에서는 이번 성과가 네이버 AI 연구의 글로벌 경쟁력을 보여주는 사례라는 평가가 나온다. 특히 생성형 AI 경쟁의 축이 모델 크기와 성능뿐 아니라 안전성, 효율성, 실제 서비스 적용성으로 넓어지는 상황에서 AI 안전성 분야 연구 성과를 국제 학회에서 인정받았다는 점에 의미가 있다.</p>
          <p contents-hash="06697ec04507cf705e6aef59e5396cd3a9ed2edfa811838e577a6aab3b0a70e3" dmcf-pid="9ZHixwFYD3" dmcf-ptype="general">네이버는 이번 ICML 2026 현장에서 네이버 AI랩뿐 아니라 네이버클라우드, 네이버랩스 등 팀네이버 차원의 AI 연구 성과를 소개했다. 네이버클라우드는 비전·파운데이션 모델 연구를, 네이버랩스는 월드모델·피지컬 AI 관련 연구인 ‘서울 월드 모델’을 앞세웠다.</p>
          <p contents-hash="d197390746f65f063fef710869e4122386cc85bfc9c06b5dcd35fd411b8a2d5e" dmcf-pid="25XnMr3GIF" dmcf-ptype="general">서울 월드 모델은 실제 도시 환경을 기반으로 AI가 물리 세계를 학습·시뮬레이션하는 방향의 연구로, 네이버랩스와 KAIST, 서울대 AI연구원 등이 참여했다.</p>
          <p contents-hash="087887ceb93186c6c26699ac44d3ba1a224c7265a525e2f1c5163dd284567d58" dmcf-pid="V1ZLRm0HOt" dmcf-ptype="general">이번 ICML 성과는 네이버가 글로벌 AI 연구 무대에서 꾸준히 존재감을 키워온 흐름의 연장선에 있다. 네이버는 지난해 뉴립스 2025에서도 현장 부스를 운영하며 연구 논문과 기술 데모를 소개했다.</p>
          <p contents-hash="85b96ec8beb7d07624776bbfc5bacfacc0c9b7d3ab3509a91dd4a8db606f3926" dmcf-pid="ft5oespXw1" dmcf-ptype="general">공개 논문 목록 기준으로도 최근 뉴립스, ICLR, ICML 등 주요 AI·머신러닝 학회에 초거대 AI 효율화, 생성형 AI 안전성, 비전·멀티모달, 피지컬 AI 관련 연구를 잇따라 선보이며 글로벌 AI 연구 무대에서 존재감을 넓히고 있다.</p>
          <p contents-hash="5150a177db1008103a7c63b40345062157dca9ba0af96817c76bf33bca1bdac2" dmcf-pid="4F1gdOUZD5" dmcf-ptype="general">신영빈 (burger@edaily.co.kr) </p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p>

심해 2,000m도 미세플라스틱 못 피했다…심해 생물 축적 특성 규명 [AI 생태계 혁신 포럼] 박혜영 AWS 수석 "기업의 AI 도입, 실무자 주도가 성과 좌우"

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기