【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]"AI가 인류 파괴할 가능성 99.9%"…근거는?

온카뱅크관리자

2024-06-04 16:57:41

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="5fGjRnOJ00">
          <p dmcf-pid="1n7hcrXD73" dmcf-ptype="general">(지디넷코리아=이정현 미디어연구소)인공지능(AI) 전문가 로만 얌폴스키 교수가 100년 안에 AI가 인류를 파괴할 확률을 99.9%로 전망했다고 IT매체 비즈니스인사이더가 4일(현지시간) 보도했다.</p>
          <p dmcf-pid="tCepY52XUF" dmcf-ptype="general">미국 루이빌 대학교 사이버보안연구소 소장 로만 얌폴스키 교수는 최근 유명 컴퓨터 과학자 렉스 프리드먼의 팟캐스트에 출연해 AI에 대한 자신의 의견을 밝혔다.</p>
          <p dmcf-pid="Fm2Ysl0C7t" dmcf-ptype="general">그는 "AI가 인류를 멸망시킬 가능성은 인간이 향후 100년 안에 버그 없이 고도로 복잡한 소프트웨어를 만들 수 있는지 여부에 달려 있다"고 밝혔다. 하지만, "설계되지 않은 작업을 수행하려는 사람들로부터 완전하게 안전한 AI 모델이 없기 때문에 그럴 가능성이 낮다"고 설명했다.</p>
          <figure class="figure_frm origin_fig" dmcf-pid="3DbTwIts71" dmcf-ptype="figure">
           <p class="link_figure"><img alt="사진=픽사베이" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/04/ZDNetKorea/20240604165743630ksfw.jpg" data-org-width="640" dmcf-mid="XxUXCTuSuU" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/04/ZDNetKorea/20240604165743630ksfw.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            사진=픽사베이
           </figcaption>
          </figure>
          <p dmcf-pid="0GJuHtf5z5" dmcf-ptype="general">또, "그들은 이미 실수를 저질렀다"며, "우리는 사고를 당했고 탈옥을 당하기도 했다. 오늘날 개발자가 의도하지 않은 일을 성공적으로 수행한 대규모 언어 모델은 하나도 없다고 생각한다"고 밝혔다.</p>
          <p dmcf-pid="pOfHIvUl7Z" dmcf-ptype="general">지난 2년 간 초기 AI 모델들 중 일부는 자료 오용이나 잘못된 정보에 대한 여러 위험 신호를 나타냈다. 딥페이크는 공인 여성의 가짜 포르노 이미지를 만들었고 바이든 대통령을 모방한 AI 자동녹음전화를 이용해 선거에 영향을 미치겠다고 위협하는 일도 있었다.</p>
          <p dmcf-pid="Ur9Wmh3I0X" dmcf-ptype="general">얼마 전 구글 I/O행사에서 공개된 제미나이 AI 모델을 기반으로 한 ‘AI 오버뷰’는 접착제로 피자를 만들 수 있다고 제안하는 등 말도 안 되는 답변을 내놔 주목을 끌기도 했다.</p>
          <figure class="figure_frm origin_fig" dmcf-pid="u3j20zRuFH" dmcf-ptype="figure">
           <p class="link_figure"><img alt="로만 얌폴스키 미국 루이빌 대학 사이버보안연구소 소장 (사진=로만 얌폴스키 엑스)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/04/ZDNetKorea/20240604165744857tlhd.jpg" data-org-width="400" dmcf-mid="ZLIe26j43p" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/04/ZDNetKorea/20240604165744857tlhd.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            로만 얌폴스키 미국 루이빌 대학 사이버보안연구소 소장 (사진=로만 얌폴스키 엑스)
           </figcaption>
          </figure>
          <p dmcf-pid="7yR0WZ9H3G" dmcf-ptype="general">그는 “AI를 제어하려면 영구적인 안전 장치가 필요하다”고 밝히며, "더 똑똑한 시스템이 무엇을 할 것인지 예측할 수 없다"고 경고했다.</p>
          <p dmcf-pid="z0AVpqe7pY" dmcf-ptype="general">그가 예측하는 미래의 모습은 하나는 모든 사람이 죽는 것이고, 다른 하나는 모든 사람이 고통스러워하며 죽기를 바라는 것이며, 또 다른 하나는 인간이 목적을 완전히 상실하는 것이라고 설명했다. </p>
          <p dmcf-pid="q1gbtUQ0zW" dmcf-ptype="general">이에 대해 비즈니스인사이더는 대부분의 사람들은 AI에 어느 정도에 위험이 있다는 것을 인정하지만 상황이 아주 절망적일 가능성은 낮게 보고 있다며, 일론 머스크의 경우 AI가 인류를 파괴할 확률을 10~20%로 예측했다고 전했다.</p>
          <p dmcf-pid="BMGjRnOJFy" dmcf-ptype="general">에릭 슈미트 전 구글 최고경영자(CEO)는 최근 "거대언어모델(LLM)의 진정한 위험은 사이버 및 생물학적 공격이며 향후 3~5년 안에 이러한 공격이 찾아올 것"이라고 밝혔다.</p>
          <p dmcf-pid="b5oB1pP37T" dmcf-ptype="general">이정현 미디어연구소(jh7253@zdnet.co.kr)</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p>

삼성전자 초기업 노조, 파업 선언한 전삼노 비판 “형님” “동생” 살갑던 주민들이 웬수 됐다…동네 축구 때문에

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기