【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]카카오, AI 리스크 줄인다…‘카카오 AI 안전 이니셔티브’ 구축

온카뱅크관리자

2024-10-23 09:29:48

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">22일 ‘if(kakaoAI)2024’ 통해 관련 내용 발표<br>AI 개발 및 운영 위험 최소화 등 위한 지침 마련</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="VISCI2VZF1">
          <figure class="figure_frm origin_fig" dmcf-pid="fvYTv6P3u5" dmcf-ptype="figure">
           <p class="link_figure"><img alt="경기도 성남시에 위치한 카카오아지트 판교사옥 내부. [카카오 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/23/ned/20241023092950512pdql.jpg" data-org-width="1280" dmcf-mid="Kky9KrmeU3" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/23/ned/20241023092950512pdql.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            경기도 성남시에 위치한 카카오아지트 판교사옥 내부. [카카오 제공]
           </figcaption>
          </figure>
          <p dmcf-pid="4TGyTPQ0uZ" dmcf-ptype="general">[헤럴드경제=이영기 기자] 카카오는 인공지능(AI) 기술 개발과 운영 과정에서 발생할 수 있는 리스크를 사전에 식별하고, 이를 관리하는 프로세스를 정의한 리스크 관리 체계인 ‘카카오 인공지능 안전 이니셔티브(Kakao ASI)’를 구축했다고 23일 밝혔다.</p>
          <div dmcf-pid="8SWvS86F7X" dmcf-ptype="general">
           <p>지난 22일 카카오 개발자 컨퍼런스 ‘if(kakaoAI)2024’에서 소개된 Kakao ASI는 AI 기술 개발 및 운영 상의 위험 발생을 최소화하고, 안전하고 윤리적인 AI 시스템을 구축하기 위한 종합 지침이다. 기술의 설계부터 개발, 테스트, 배포, 모니터링 및 업데이트 등 AI 시스템의 전 생애주기에서 발생할 수 있는 리스크에 선제적인 대응이 가능한 것이 특징이다. AI와 인간이 초래할 수 있는 다양한 종류의 리스크를 폭넓게 관리하며, 인간의 부주의나 실수로 발생할 수 있는 영역까지 관리 범위를 포괄적으로 지정했다.</p>
          </div>
          <figure class="figure_frm origin_fig" dmcf-pid="6vYTv6P3uH" dmcf-ptype="figure">
           <p class="link_figure"><img alt="카카오 인종지능 안전 이니셔티브 구조. [카카오 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/23/ned/20241023092952311tptt.jpg" data-org-width="1280" dmcf-mid="9GB7uAc6UF" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/23/ned/20241023092952311tptt.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            카카오 인종지능 안전 이니셔티브 구조. [카카오 제공]
           </figcaption>
          </figure>
          <p dmcf-pid="PTGyTPQ07G" dmcf-ptype="general">Kakao ASI는 ▷Kakao AI 윤리 원칙 ▷리스크 관리 사이클 ▷AI 리스크 거버넌스 등 3가지 핵심요소로 이뤄졌다. Kakao AI 윤리 원칙은 지난 2023년 3월 발표한 ‘카카오 그룹의 책임 있는 AI를 위한 가이드라인’을 기반으로, 사회 윤리, 포용성, 투명성, 프라이버시, 이용자 보호 등 원칙을 포함했다. 개발자와 사용자를 대상으로 윤리적인 가이드라인을 제공할 예정이다.</p>
          <div dmcf-pid="QH1XHedzuY" dmcf-ptype="general">
           <p>리스크 관리 사이클은 리스크를 체계적으로 다루기 위한 접근법으로, 식별-평가-대응의 순환 단계로 구성됐다. AI 기술의 비윤리, 불완전 등을 최소화하고, 안전성과 신뢰성을 확보할 수 있는 핵심적인 역할을 한다. 사이클은 AI 시스템의 전체 수명주기에 걸쳐 반복적으로 적용된다.</p>
          </div>
          <figure class="figure_frm origin_fig" dmcf-pid="xXtZXdJqFW" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[헤럴드경제DB]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/23/ned/20241023092952636ttbt.jpg" data-org-width="640" dmcf-mid="2mpFtLo9zt" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/23/ned/20241023092952636ttbt.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [헤럴드경제DB]
           </figcaption>
          </figure>
          <p dmcf-pid="yJoiJHXD7y" dmcf-ptype="general">AI 리스크 거버넌스는 AI 시스템의 개발, 배포, 사용 등을 관리하고 감독하는 의사 결정 체계다. 거버넌스는 조직 내 정책, 절차, 책임 구조 및 외부 규제와의 조화를 포함하며, 거버넌스 체계 내에서 관련 리스크들을 다각도로 검토한다. Kakao ASI 거버넌스는 AI Safety, 전사 리스크 관리 전담 조직인 ERM 위원회, 최고 의사결정 기구의 3단계로 구성됐다.</p>
          <p dmcf-pid="W3u03gaVUT" dmcf-ptype="general">김경훈 카카오 AI Safety 리더는 “AI 시스템 이용에 따른 리스크의 발생 주체를 AI와 인간으로 구분하고, 발생 주체 별 리스크의 특성을 반영해 평가 및 대응방안을 마련했다는 점이 타사의 AI 리스크 관리 프레임워크와 차별화되는 점”이라고 말했다.</p>
          <p dmcf-pid="Y07p0aNfFv" dmcf-ptype="general">카카오는 Kakao ASI 구축 이후에도 AI 기술 개발과 운영 과정에서 발견되는 리스크를 신속하게 식별 및 대응하고, 지속적으로 체계 고도화를 이어갈 계획이다. 빠르게 변화하는 환경과 기술적 요구에 맞춰 체계를 정밀하게 점검하고, AI 시스템의 신뢰와 안전성을 강화할 예정이다.</p>
          <p dmcf-pid="GshOsK9HpS" dmcf-ptype="general">20ki@heraldcorp.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 헤럴드경제. 무단전재 및 재배포 금지.</p>

과학기술 국제협력 촉진···자문회의법 개정법률안 공포 사강, 남편 사별 아픔 딛고 방송 복귀 "'솔로라서' 워킹맘 일상 공개"

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기