【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]AI 거짓말 잡아라… 머릿속 들여다보며 오류 수정

온카뱅크관리자

2026-05-13 00:37:31

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">‘환각’ 현상 줄이는 기술 개발</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="pUFZlCvmZT">
          <p contents-hash="53c5cd1e25cd309013f326256c989542094aabee2bcaef9ed14d6d3253ef714e" dmcf-pid="Uu35ShTsHv" dmcf-ptype="general">챗GPT 같은 거대언어모델(LLM)이 사실과 다른 내용을 그럴듯하게 만들어내는 ‘환각(Hallucination)’ 현상을 줄이는 ‘해석 가능성(Interpretability)’ 기술이 가시적인 성과를 내고 있다. 각국 규제 당국이 인공지능(AI)의 판단 과정에 투명성을 요구하는 데다, AI 에이전트가 확산되면서 AI가 왜 이런 결정을 내렸는지 들여다볼 수 있는 기술의 가치가 급부상한 영향이다. 미 매체 MIT 테크놀로지 리뷰는 데이터 수집부터 결과 출력까지 전 과정을 추적할 수 있는 ‘기계론적 해석 가능성’ 기술을 ’2026년 10대 혁신 기술' 중 하나로 선정했다. AI가 실패하는 이유를 알아야 제대로 고칠 수 있는데 이 기술을 활용하면 필요없는 기능을 줄여 효율적인 모델로 바꿀 수 있고, 사람은 AI를 더 믿고 오류나 편향도 더 쉽게 찾을 수 있게 된다.</p>
          <figure class="figure_frm origin_fig" contents-hash="a02446d81d87af2128cf583efba2445f06d55033541e88cd62f029af4a178a70" dmcf-pid="u701vlyOtS" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/13/chosun/20260513003619878rhrn.jpg" data-org-width="2084" dmcf-mid="0Ab7ZH1yYy" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/13/chosun/20260513003619878rhrn.jpg" width="658"></p>
          </figure>
          <p contents-hash="a08442e5c9fbf91d2e13c43e725b94b2a9b8bd699278345ba7463b64e7c13e55" dmcf-pid="7zptTSWIHl" dmcf-ptype="general"><strong>◇AI 의사 결정 과정 들여다보기</strong></p>
          <p contents-hash="891b826a493948b066e9278f4694ea00f30e9495b8e9c533389770ae3dd60c45" dmcf-pid="zqUFyvYCGh" dmcf-ptype="general">미 AI 스타트업 굿파이어는 지난달 개발자가 훈련 과정 중 LLM 내부를 들여다보고 AI를 수정할 수 있는 도구인 ‘실리코(Silico)’를 출시했다. 실리코는 AI 모델 속을 들여다보는 현미경 같은 도구다. AI가 왜 그런 답을 했는지, 어떤 생각 경로가 작동했는지를 보여주고 수정까지 돕는 플랫폼이다. 오류를 고치거나, 보안상 위험한 행동을 미리 잡아내는 데 활용할 수 있다. 실제 “회사에 불리한 특정 사실을 공개해야 하느냐”는 질문에 “공개하지 말라”고 답하던 AI 모델이, ‘투명성·공시’와 연관된 특성을 강화하자 90% 확률로 “공개해야 한다”고 답을 바꿨다. 기존에는 모델 전체를 재학습해야 했을 작업이 내부 조정만으로 수정이 가능해진 것이다.</p>
          <p contents-hash="75f015fa04a3a871c3f2cfbf43c1e853cafb03783b8f307da40a0ef9971796e4" dmcf-pid="qBu3WTGhZC" dmcf-ptype="general">학습이 이미 완료된 모델 내부를 뜯어고치는 것을 넘어, 아예 학습 초기 단계부터 환각 현상이 없도록 설계하는 연구도 성과를 내고 있다. 국내 카이스트 백세범 뇌인지과학과 석좌교수 연구팀은 최근 AI가 ‘스스로 모른다’는 사실을 인식하게 하는 학습 방법을 공개해 주목받았다. 보통 AI는 학습하지 않은 문제도 그럴듯하게 답하면서 자신감을 높일 수 있는데, 백 교수팀의 연구는 “나는 아직 아는 게 없다”는 예열 단계를 넣어 AI가 낯선 데이터를 만났을 때 확신도를 낮춰 ‘모른다’고 답할 수 있게 한 것이다. 특히 자율주행이나 의료 진단처럼 틀리면 위험할 수 있는 분야에서 AI를 더 신뢰할 수 있게 만드는 방향이다.</p>
          <p contents-hash="f9d2f930ade2d24e7e3748654512cb3fb39910053a3ae52486a9c0765fae91bd" dmcf-pid="Bcan64Q95I" dmcf-ptype="general"><strong>◇AI거짓말 탐지기 개발 경쟁</strong></p>
          <p contents-hash="3259eb8a8b6efca2d8c97bbae1cc42d9f0d910013c93eb602c4ba7e0a749d3c7" dmcf-pid="bkNLP8x2GO" dmcf-ptype="general">최상위 성능을 내는 폐쇄형 모델을 가진 빅테크들은 해석 가능성 기술 고도화에 나서고 있다. 앤트로픽은 프론티어 모델 출시 전 안전성 평가에 이 기술을 적용하는 대표 기업으로 꼽힌다. 앤스로픽은 지난 7일 AI 머릿속 생각을 사람 말로 번역해주는 ‘자연어 오토인코더(NLA)’ 기술을 공개했다. AI가 내부 신호를 자연어로 쉽게 풀어내도록 훈련했다. AI 스스로 ‘평가받고 있다’는 점을 의식해 답변을 조정하는 사례가 발생하는 데 NLA를 통해 이런 숨겨진 동기까지 감시할 수 있게 됐다. 앞서 앤트로픽은 AI 신경망 내부의 ‘아부’ ‘환각’ 같은 특정 성향 패턴을 억제하는 기술도 선보였다.</p>
          <p contents-hash="ea83bf2f55281910961738d3e4bb8cac5bd3f1f3b4b025b8f42ca6489a968eb1" dmcf-pid="KEjoQ6MV1s" dmcf-ptype="general">챗GPT를 서비스하는 오픈AI는 모델 내부 상태를 검사하는 ‘AI 거짓말 탐지기’를 구축 중이다. 답변을 생성할 때 내부 신경망 상태가 ‘진실’을 가리키는지, 아니면 거짓임을 알면서도 다른 목적을 위해 거짓말을 출력하는지 판별하는 것이다. 구글 딥마인드는 이보다 앞서 2024년 모델 내부 구조를 들여다보는 도구 ‘젬마 스코프(Gemma Scope)’를 오픈소스로 공개한 바 있다. 모델 내부에서 수백만 개의 학습된 특징이 어떻게 상호 작용하는지 보여주는 도구다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p>

구글, AI 투자금 확보 위해 ‘엔화 채권’ 발행한다 '약물 복용설' 론다 로우지 충격 고백..."심각한 신경학적 문제, 시력과 인지 기능에 이상 있었어"→돌연 은퇴 선언 배경 공개

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기