【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]카카오, AI 리스크 관리 체계 구축… 안전·윤리 강화

온카뱅크관리자

2024-10-23 10:43:43

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">AI 기술 개발 및 운영 상 위험 발생 최소화, 안전한 AI 시스템 구축 위한 종합 지침 마련</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="7fZEBHXDbg">
          <figure class="figure_frm origin_fig" dmcf-pid="z9GA7WYc9o" dmcf-ptype="figure">
           <p class="link_figure"><img alt="카카오가 AI 기술 개발과 운영 과정에서 발생할 수 있는 리스크를 사전에 식별하고 이를 관리하는 프로세스를 정의한 리스크 관리 체계인 'Kakao AI Safety Initiative'(Kakao ASI)를 구축했다. 사진은 카카오 AI Safety Initiative 구조를 나타낸 도면.  /사진=카카오 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/23/moneyweek/20241023104346717xwrw.jpg" data-org-width="680" dmcf-mid="uFqvx7zT2a" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/23/moneyweek/20241023104346717xwrw.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            카카오가 AI 기술 개발과 운영 과정에서 발생할 수 있는 리스크를 사전에 식별하고 이를 관리하는 프로세스를 정의한 리스크 관리 체계인 'Kakao AI Safety Initiative'(Kakao ASI)를 구축했다. 사진은 카카오 AI Safety Initiative 구조를 나타낸 도면. /사진=카카오 제공
           </figcaption>
          </figure>
          <div dmcf-pid="qRUC80phbL" dmcf-ptype="general">
           카카오가 인공지능(AI) 기술의 윤리와 신뢰를 강화하고 사회적 책임을 다하기 위한 활동을 보다 체계적으로 이행하기로 했다. 
          </div>
          <p dmcf-pid="BA4ZLVf5Vn" dmcf-ptype="general">카카오는 23일 AI 기술 개발과 운영 과정에서 발생할 수 있는 리스크를 사전에 식별하고 이를 관리하는 프로세스를 정의한 리스크 관리 체계 'Kakao AI Safety Initiative'(Kakao ASI)를 구축했다고 밝혔다.</p>
          <p dmcf-pid="boKWeBbYVi" dmcf-ptype="general">Kakao ASI는 AI 기술 개발과 운영 상의 위험 발생을 최소화하고, 안전하고 윤리적인 AI 시스템을 구축하기 위한 종합 지침이다. 기술의 설계부터 ▲개발 ▲테스트 ▲배포 ▲모니터링과 업데이트 등 AI 시스템의 전 생애주기에서 발생할 수 있는 리스크에 선제적 대응이 가능한 것이 특징이다. </p>
          <p dmcf-pid="KPFm21ts9J" dmcf-ptype="general">Kakao ASI는 ▲Kakao AI 윤리 원칙 ▲리스크 관리 사이클 ▲AI 리스크 거버넌스라는 3가지 핵심요소로 구성된다. </p>
          <p dmcf-pid="9Gc4SjA8Kd" dmcf-ptype="general">Kakao AI 윤리 원칙은 2023년 3월 발표한 '카카오 그룹의 책임 있는 AI를 위한 가이드라인'을 기반으로 ▲사회 윤리 ▲포용성 ▲투명성 ▲프라이버시 ▲이용자 보호 등 원칙을 포함한다. 개발자와 사용자를 대상으로 윤리적인 가이드라인을 제공한다.</p>
          <p dmcf-pid="2tmMGwrRBe" dmcf-ptype="general">리스크 관리 사이클은 리스크를 체계적으로 다루기 위한 접근법으로, ▲식별▲평가▲대응의 순환 단계로 구성된다. AI 기술의 ▲비윤리 ▲불완전 등을 최소화하고, 안전성과 신뢰성을 확보할 수 있는 핵심적인 역할을 한다. 사이클은 AI 시스템의 전체 수명주기에 걸쳐 반복 적용된다.</p>
          <p dmcf-pid="VA4ZLVf5KR" dmcf-ptype="general">AI 리스크 거버넌스는 AI 시스템의 ▲개발▲배포 ▲사용 등을 관리하고 감독하는 의사 결정 체계를 뜻한다. Kakao ASI 거버넌스는 AI Safety, 전사 리스크 관리 전담 조직인ERM 위원회, 최고 의사결정 기구의 3단계로 구성되어 있다.</p>
          <p dmcf-pid="fYAflNj42M" dmcf-ptype="general">지난 22일 열린 컨퍼런스 세션에 연사자로 나선 김경훈 카카오 AI Safety 리더는 "AI 시스템 이용에 따른 리스크의 발생 주체를 AI와 인간으로 구분하고, 발생 주체 별 리스크의 특성을 반영해 평가와 대응방안을 마련했다는 점이 타사의 AI 리스크 관리 프레임워크와 차별화되는 점" 이라고 말했다.</p>
          <p dmcf-pid="4tmMGwrRBx" dmcf-ptype="general">카카오는 Kakao ASI 구축 이후에도 AI 기술 개발과 운영 과정에서 발견되는 리스크를 신속하게 식별·대응하고 체계 고도화를 이어갈 계획이다. 빠르게 변화하는 환경과 기술적 요구에 맞춰 체계를 정밀하게 점검해가고 AI 시스템의 신뢰와 안전성을 높여가기 위해 힘쓸 예정이다.</p>
          <p dmcf-pid="8A4ZLVf5VQ" dmcf-ptype="general">김 리더는 "AI 윤리와 안전을 위해 선제적 노력을 이어온 카카오가 Kakao ASI 구축을 통해 글로벌 환경에 부합하는 수준의 AI 리스크 관리 체계를 마련하고자 한다"며 "AI 기술의 영향력이 빠르게 확산되고 변화의 속도가 가속화되는 환경에 맞춰 윤리 기준을 선도해 갈 수 있도록 노력할 것"이라고 말했다.</p>
          <p dmcf-pid="681wKZ5r2P" dmcf-ptype="general">김성아 기자 tjddk99@mt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 머니S &amp; moneys.co.kr, 무단 전재 및 재배포 금지</p>

무작위 사전학습→AI에도 적용할 수 있나 퀄컴-오픈AI, '하이브리드 AI' 전략 동맹

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기