【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]오픈AI, 새 '안전·보안위원회' 구성…전 안전 책임자는 경쟁사 '앤스로픽'으로

온카뱅크관리자

2024-05-29 13:24:44

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="GiEbx4aVxW">
          <figure class="figure_frm origin_fig" dmcf-pid="H1BsYSph8y" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/29/etimesi/20240529132445902hlyw.jpg" data-org-width="700" dmcf-mid="Y5UESO1m8Y" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/29/etimesi/20240529132445902hlyw.jpg" width="658"></p>
          </figure>
          <p dmcf-pid="X02hZWzTxT" dmcf-ptype="general">챗GPT 개발사 오픈AI가 새로운 새로운 '안전·보안위원회'를 구성했다고 밝혔다. 같은 날 오픈AI의 안전 연구를 담당하던 전 책임자가 경쟁사로 이직해 눈길을 끌었다.</p>
          <p dmcf-pid="ZZzryh3Ixv" dmcf-ptype="general">오픈AI는 28일(현지시간) 자사 블로그를 통해 생성형 인공지능(AI) 기술 개발 과정에 안전과 윤리 문제를 점검하기 위해 새로운 안전·보안위원회를 구성했다고 밝혔다.</p>
          <p dmcf-pid="5qPW052XPS" dmcf-ptype="general">새 위원회는 브렛 테일러 이사회 의장과 샘 올트먼 최고경영자(CEO), 애덤 단젤로 이사 등이 이끈다.</p>
          <p dmcf-pid="1X7wTCFO6l" dmcf-ptype="general">오픈AI는 위원회의 첫 번째 과제가 “앞으로 90일동안 오픈AI의 프로세스와 안전장치를 평가하고 더욱 발전시키는 것”이라고 소개했다.</p>
          <p dmcf-pid="t5qmWl0CPh" dmcf-ptype="general">90일이 지나면 위원회는 전체 이사회와 권고사항을 공유하고, 이사회 검토에 따라 채택된 권장 사항에 대한 업데이트를 공개적으로 공유할 것이라고 덧붙였다.</p>
          <p dmcf-pid="F39CXy7vPC" dmcf-ptype="general">같은 날, 오픈AI 안전팀 공동 책임자였던 얀 레이케는 경쟁사인 앤스로픽에 합류했다.</p>
          <p dmcf-pid="3nDKM8NfQI" dmcf-ptype="general">블룸버그통신은 레이케가 공교롭게도 오픈AI가 새 안전·보안위원회를 구성했다고 밝힌 날, 자신의 소셜미디어 'X(옛 트위터)'에 직접 이러한 사실을 밝혔다고 보도했다.</p>
          <p dmcf-pid="0CXLwATNxO" dmcf-ptype="general">레이케에 앞서 AI의 장기적 위험을 연구하는 '슈퍼얼라이먼트(superalignment·초정렬)' 팀을 함께 이끌었던 일리야 수츠케버가 이달 초 오픈AI를 떠났다.</p>
          <p dmcf-pid="pX7wTCFOPs" dmcf-ptype="general">초정렬은 미래에 만들어질 초지능 AI를 제어해 인간에게 유용하고 해롭지 않은 방식으로 행동하도록 조절하는 연구를 뜻한다. 즉 AGI의 안전한 활용을 위한 연구를 진행한다.</p>
          <p dmcf-pid="UAC6LewMxm" dmcf-ptype="general">당시 레이케는 “안전문화와 프로세스가 제품 뒷전으로 밀려났다”며 오픈AI를 비판했고, 그들이 이끌던 팀은 이후 해체됐다. 결국 한 달도 되지 않아 경쟁사로 복귀한 것이다.</p>
          <p dmcf-pid="uklQgJmePr" dmcf-ptype="general">레이케는 앤스로픽에서 자신의 업무가 오픈AI에서 맡았던 것과 유사하며 '인간을 뛰어넘는 AI 모델' 제어와 관련된 안전 문제에 초점을 맞출 것이라고 전했다.</p>
          <p dmcf-pid="7mWdcghLxw" dmcf-ptype="general">김명희 기자 noprint@etnews.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p>

김호중 소속사 "음주사건 연루 직원 처벌 달게 받을 것…추측성 기사는 그만" 박주민의 외침, 비아냥 맞불 놓은 국힘

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기