【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스][팩플] “미국에 무슬림 대통령 있었다”…구글, AI 검색 '환각'으로 곤욕

온카뱅크관리자

2024-05-26 16:39:45

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="0VmlFPc6Cv">
          <p dmcf-pid="p6CyURwMTS" dmcf-ptype="general">오픈AI와 생성 인공지능(AI) 주도권 경쟁을 벌이고 있는 구글이 새 AI 기능을 내놨다가 곤욕을 치르고 있다. 최신 모델 ‘제미나이’를 탑재해 선보인 검색 기능이 사실과 맞지 않거나 비상식적인 답변을 내놓고 있어서다. </p>
          <figure class="figure_frm origin_fig" dmcf-pid="UPhWuerRyl" dmcf-ptype="figure">
           <p class="link_figure"><img alt="AP=연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/26/joongang/20240526163946683cnes.jpg" data-org-width="559" dmcf-mid="tvPdDZ2XlW" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/26/joongang/20240526163946683cnes.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            AP=연합뉴스
           </figcaption>
          </figure>
          <div dmcf-pid="uQlY7dmeWh" dmcf-ptype="general">
           <br> ━
           <br>
           <h2> 무슨 일이야 </h2>
           <br> 지난 24일(현지시간) 뉴욕타임스(NYT), 더버지 등에 따르면 ‘AI 개요’(AI overview‧AI 오버뷰)라는 구글의 새 검색 기능에서 잘못된 답변을 제시하는 사례들이 잇달아 나오고 있다. 지난 16일 I/O 2024(연례개발자회의)에서 첫 공개된 기능이다. 텍스트 뿐 아니라 사진, 동영상 등을 포함한 이용자 질문에 생성 AI가 맞춤형 답변을 제공 해준다. 구글은 미국을 시작으로 수개월 안에 더 많은 언어권에 이 검색 기능을 제공할 예정이다. 
          </div>
          <p dmcf-pid="7a1U6kYcSC" dmcf-ptype="general">문제는 이 AI 개요에도 ‘환각’(할루시네이션‧AI가 잘못된 답변을 하는 것) 현상이 계속되고 있다는 점이다, “미국에 몇 명의 무슬림 대통령이 있었느냐”는 한 이용자 질문에 AI 개요는 “버락 후세인 오바마라는 한 명의 무슬림 대통령이 있었다”는 잘못된 답변을 내놨다. “사람이 하루에 얼마나 많은 돌을 먹어야 할까”라는 질문에는 “UC버클리 지질학자들에 따르면 하루 최소 하나의 작은 돌을 먹어야한다”는 엉뚱한 답을 했다. 피자에서 치즈가 분리되는 문제를 막기 위해선 피자 소스에 접착제를 발라야 한다는 답변도 나왔다. </p>
          <figure class="figure_frm origin_fig" dmcf-pid="zNtuPEGkyI" dmcf-ptype="figure">
           <p class="link_figure"><img alt="“미국에 몇 명의 무슬림 대통령이 있었느냐”는 한 이용자의 질문에 구글의 AI 개요는 “버락 후세인 오바마라는 한 명의 무슬림 대통령이 있었다”는 잘못된 답변을 내놨다. x캡처" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/26/joongang/20240526163948097kplb.jpg" data-org-width="559" dmcf-mid="FqTXBnIiCy" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/26/joongang/20240526163948097kplb.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            “미국에 몇 명의 무슬림 대통령이 있었느냐”는 한 이용자의 질문에 구글의 AI 개요는 “버락 후세인 오바마라는 한 명의 무슬림 대통령이 있었다”는 잘못된 답변을 내놨다. x캡처
           </figcaption>
          </figure>
          <div dmcf-pid="qjF7QDHESO" dmcf-ptype="general">
           <br> ━
           <br>
           <h2> 이게 왜 중요해 </h2>
           <br> 구글이 AI의 ‘헛소리’로 골치를 앓은게 처음은 아니다. 지난 2월에는 제미나이 이미지 생성 기능에서 논란이 일어 해당 기능을 일시 중단한 바 있다. 아인슈타인 등 역사적 인물을 유색인종으로 묘사하고, 독일 나치를 아시아인으로 묘사해 생성했기 때문이다. 지난해 2월에는 AI 챗봇 ‘바드’ 광고 영상에서도 오류가 드러나 알파벳(구글의 모회사) 주가가 7% 급락하기도 했다. 해당 광고에서 바드는 제임스웹 우주망원경에 대해 알려달라는 질문에 대해 최초로 태양계 외부 행성을 찍었다고 답했다. 실제로는 유럽 남방천문대의 초거대 망원경이 찍었다. 
          </div>
          <div dmcf-pid="BLX3fjTNCs" dmcf-ptype="general">
           ━
           <br>
           <h2> 검색공룡의 딜레마 </h2>
           <br> 헛소리만 문제가 아니다. 검색 기반 수익 모델을 갖고 있는 구글에 ‘AI 검색’은 양날의 검이다. 그동안 구글은 검색 서비스를 무료로 제공하는 대신 광고로 수익을 올렸다. 그러나 AI 검색이 본격적으로 도입되면 기존 검색 결과에 따른 웹사이트 진입과 이에 따른 광고 수입이라는 수익 모델이 흔들리게 된다. 한국 네이버가 내놓은 AI 검색 ‘큐:’도 같은 딜레마를 갖고 있다. 
          </div>
          <p dmcf-pid="boZ04Ayjlm" dmcf-ptype="general">새로운 기술과 기존의 수익 모델 사이에서 구글은 AI 검색 서비스 유료화라는 카드를 검토하고 있다. 지난달 파이낸셜타임스(FT)는 제미나이를 이용할 수 있는 프리미엄 구독 서비스에 AI 기반 검색 기능을 추가하는 것을 포함해 여러 방안을 검토하고 있다고 보도했다. <br> </p>
          <figure class="figure_frm origin_fig" dmcf-pid="Kg5p8cWAyr" dmcf-ptype="figure">
           <p class="link_figure"><img alt="올해 구글 I/O 주요 발표 내용들 그래픽 이미지. [자료제공=구글]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/26/joongang/20240526163948344jevq.jpg" data-org-width="480" dmcf-mid="30hWuerRTT" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/26/joongang/20240526163948344jevq.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            올해 구글 I/O 주요 발표 내용들 그래픽 이미지. [자료제공=구글]
           </figcaption>
          </figure>
          <div dmcf-pid="96CyURwMvw" dmcf-ptype="general">
           ━
           <br>
           <h2> 앞으로는 </h2>
           <br> 환각증상 등 한계에도 불구하고 구글은 검색 등에 AI 기능을 확대할 것으로 보인다. AI 개요 오류들에 대해 구글 측은 성명을 내고 “우리가 본 사례 중 상당수는 흔하지 않은 질문이었고, 그 중에는 조작되었거나 재현될 수 없는 사례도 있다”며 “일부 사례에 대해 시스템을 개선할 것”이라고 했다. 
          </div>
          <p dmcf-pid="2PhWuerRCD" dmcf-ptype="general">제미나이 엔지니어링 부서를 이끌고 있는 아마르 수브라만야 구글 부사장은 최근 중앙일보와의 인터뷰에서 “(생성AI는) 초기 기술이기에 100% 제대로 작동하는 건 불가능하다. 중요한 건 문제가 발생했을 때 빠르게 사용자 피드백을 받아 올바르게 해결하는 것”이라고 말했다. </p>
          <p dmcf-pid="VQlY7dmeyE" dmcf-ptype="general">김남영 기자 kim.namyoung3@joongang.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p>

개인정보위, ‘유엔 AI 고위급 자문기구’ 회의 참석 尹 “한중 긴밀히 협력해야”…리창 “좋은 이웃 되고 싶다”

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기