【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]"AI 통제력 상실 막는다"...네이버, 3개월마다 위험 평가

온카뱅크관리자

2024-06-17 11:06:10

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">AI 시스템이 초래할 위험으로 통제력 상실, 악용 정의...대응 방법 설계</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="2vpV5mQ0S4">
          <figure class="figure_frm origin_fig" dmcf-pid="VbdcP0mehf" dmcf-ptype="figure">
           <p class="link_figure"><img alt="연합뉴스 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/17/dt/20240617110612188bskp.jpg" data-org-width="640" dmcf-mid="9mhZre0CW8" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/17/dt/20240617110612188bskp.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            연합뉴스 제공
           </figcaption>
          </figure>
          <p dmcf-pid="fKJkQpsdlV" dmcf-ptype="general">네이버가 인공지능(AI) 시스템을 개발하고 배포하는 과정의 모든 단계에서 AI의 잠재적 위험을 인식·평가·관리하기 위한 대응 체계 '네이버 ASF(AI Safety Framework)'를 발표했다.</p>
          <p dmcf-pid="49iExUOJS2" dmcf-ptype="general">네이버는 2021년 '네이버 AI 윤리 준칙', 2022년 'AI 윤리 자문 프로세스'에 이어 한층 구체화된 AI 안전성 실천 체계를 공개했다. AI 안정성 체계를 설계하고 실천하는 시도는 국내에서 네이버가 최초이다. </p>
          <p dmcf-pid="834ibGNfv9" dmcf-ptype="general">네이버 ASF는 AI 시스템이 초래할 수 있는 위험을 각각 '통제력 상실 위험'과 '악용 위험'으로 정의하고, 이에 대응하기 위한 방법을 설계한 것이 특징이다. AI 위험 평가 스케일을 통해 시스템의 위험을 주기적으로 평가하고 관리한다. 사람이 영향을 미치지 못하게 되는 '통제력 상실 위험'을 완화하기 위해서다.</p>
          <p dmcf-pid="608nKHj4yK" dmcf-ptype="general">특히 현존 최고 성능의 AI 시스템을 '프런티어(frontier) AI'로 정의하고 이 수준에 해당하는 시스템에 대해서는 3개월마다 위험 평가를 수행한다. 시스템의 능력이 기존보다 6배 이상 급격히 증가한 경우에는 그 시점에 추가 평가가 이뤄진다.</p>
          <p dmcf-pid="PVLwR7Cnyb" dmcf-ptype="general">아울러 잠재 위험인 '악용'에 대해서는 'AI 위험 평가 매트릭스'를 적용해 대응한다. AI 위험 평가 매트릭스는 AI 시스템의 사용 목적과 안전 조치의 필요성 정도에 따라 각각 다른 방법으로 위험을 관리한다. </p>
          <p dmcf-pid="QforezhLlB" dmcf-ptype="general">예를 들어 생화학 물질 개발과 같이 특수한 목적으로 사용되는 AI 시스템은 특별한 자격이 있는 사용자에게만 제공해 위험을 완화하고, 사용 목적과 관계 없이 안전 조치의 필요성이 높은 AI 시스템이라면 추가적인 기술적·정책적 안전 조치를 통해 위험이 완화될 때까지는 배포하지 않는다.</p>
          <p dmcf-pid="x4gmdqloyq" dmcf-ptype="general">네이버는 문화적 다양성을 반영한 AI 안전성 체계로 네이버 ASF를 발전시켜나갈 계획이다. 한국 외 다른 지역의 정부 및 기업과 소버린(Sovereign) AI를 공동 개발하며 특정 문화권에서 성립될 수 있는 AI 시스템의 위험을 식별하고, 위험의 정도를 측정하는 벤치마크(benchmark)도 문화권의 특성을 반영해 고도화할 예정이다.</p>
          <p dmcf-pid="ymX7Tj9HCz" dmcf-ptype="general">최수연 네이버 대표이사는 "네이버는 한국에서 '하이퍼클로바X'라는 소버린 AI를 개발한 경험을 통해 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다"며 "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해나갈 계획이고 이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되며 공존하는 지속 가능한 AI 생태계에 네이버가 적극적으로 기여할 것"이라고 말했다.김영욱기자 wook95@dt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p>

"러북, 푸틴 방북 계기 '유사시 자동 군사 개입' 합의 가능성" 카카오픽코마, 에이템포미디어와 ‘오리지널 웹툰 콘티 공모전’

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기