【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]올트먼 오픈AI CEO “AGI 위험 예방에 지침서 없다”

온카뱅크관리자

2024-05-19 16:00:50

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="KV53c1f56t">
          <figure class="figure_frm origin_fig" dmcf-pid="9V53c1f541" dmcf-ptype="figure">
           <p class="link_figure"><img alt="샘 올트먼 오픈AI CEO. [사진= 오픈AI 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/19/etimesi/20240519160051323sfus.jpg" data-org-width="700" dmcf-mid="bcXtjZ2XQF" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/19/etimesi/20240519160051323sfus.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            샘 올트먼 오픈AI CEO. [사진= 오픈AI 제공]
           </figcaption>
          </figure>
          <p dmcf-pid="27TGnyzT85" dmcf-ptype="general">샘 올트먼 오픈AI 최고경영자(CEO)와 그렉 브록만 사장이 인공지능(AI) 안전·윤리 담당 부서 '슈퍼얼라인먼트' 팀 해체 등 논란에 반박했다.</p>
          <p dmcf-pid="VR7bIze74Z" dmcf-ptype="general">19일 이들은 X를 통해 “오픈AI는 일반인공지능(AGI) 위험성과 기회에 대한 인식을 높여 세계가 AGI에 대비할 수 있도록 했다”면서 “딥러닝의 확장 가능성을 입증하고 그 영향력을 분석했으며, AGI 국제 규제를 최초 제안하고 AI 시스템의 치명적 위험을 평가하는 과학을 개척했다”고 밝혔다.</p>
          <p dmcf-pid="fwRiFerRPX" dmcf-ptype="general">그러면서 “오픈AI는 점점 더 능력 있는 시스템의 안전한 배포를 위한 기초를 마련해왔다”며 “GPT-4를 안전하게 출시하기 위해 많은 작업을 수행했고, 배포 과정에서 얻은 교훈을 통해 모델 행동과 남용 모니터링을 지속 개선해왔다”고 덧붙였다.</p>
          <p dmcf-pid="4xUqsuMU6H" dmcf-ptype="general">이들은 슈퍼얼라인먼트 방식이 AGI 위험을 예방할 수 있다는 주장에 반박했다. 올트먼과 브록만은 “AGI로 가는 길에 대한 입증된 블레이북(지침서)는 아직 없다”면서 “경험적인 이해가 나아갈 방향을 제시하는 데 도움이 될 수 있다고 생각한다. 오픈AI는 긍정적인 측면을 제공하는 동시에 심각한 위험을 완화하기 위해 노력하고 있다”고 거듭 강조했다.</p>
          <p dmcf-pid="8L94T2o98G" dmcf-ptype="general">이번 성명은 오픈AI가 AGI를 사전 통제하기 위해 출범한 슈퍼얼라인먼트 팀을 전격 해체한 직후 발표됐다.</p>
          <p dmcf-pid="6N4QG8j46Y" dmcf-ptype="general">슈퍼얼라인먼트는 초지능 AI가 인간이 원하는 대로 행동하게 만드는 기술이다. 인간 능력을 넘어 스스로 판단하고 행동하는 AGI가 등장하더라도 사람에게 해를 끼치지 않고, 유익하게 사용되도록 조절하는 방법을 연구하는 것이 목표다.</p>
          <p dmcf-pid="PInauLCn6W" dmcf-ptype="general">해당 팀은 일리야 수츠케버가 이끌었지만, 컴퓨팅 자원 배분 문제로 사내 갈등이 폭증한 바 있다. 슈퍼얼라인먼트 팀이 그래픽처리장치(GPU) 등 컴퓨팅 자원 20%을 배분 받으면서 AI 개발 속도를 지연했다는 목소리가 나왔다.</p>
          <p dmcf-pid="QCLN7ohLQy" dmcf-ptype="general">해당 팀원들은 줄줄이 회사를 떠났다. 슈츠케버 외에 레오폴드 아셴브레너와 파벨 이즈마일로프가 회사 기밀 유출로 해고됐고, 윌리엄 손더스는 지난 2월 퇴사했다. 또 AI 정책 및 거버넌스 연구원인 컬렌 오키프와 다니엘 코코타일로도 회사를 떠난 것으로 추정된다.</p>
          <p dmcf-pid="xren3dme6T" dmcf-ptype="general">류태웅 기자 bigheroryu@etnews.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p>

김한슬·홍준영·송영재·서예담, UFC 진출 다음 기회로 인내심 요구하는 엔화 약세 ‘터닝포인트’ [매일 돈이 보이는 습관 M+]

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기