【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]해커로 돌변하는 AI … 민감 데이터는 반드시 인간이 관리해야

온카뱅크관리자

2026-02-23 17:57:32

<div id="layerTranslateNotice" style="display:none;"></div> 커지는 AI 보안 리스크 … 기업들이 유념해야할 점은 ① AI 연결된 데이터 파악해 접근권 철저히 제한 필요 ② 조직내 AI 전수조사 필수 취약점 파악해 대응해야 ③ 악성코드 생성 막기 위해 관리 가드레일 활용 시급 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="2Laf2UnQlN">
 <figure class="figure_frm origin_fig" contents-hash="139f3a1649c2c6f057647010fe9be41da699f39dad43c21c21eb5b4e36181eb4" dmcf-pid="VoN4VuLxSa" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/23/mk/20260223175422539tsen.jpg" data-org-width="1000" dmcf-mid="34vNgMCEyI" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/23/mk/20260223175422539tsen.jpg" width="658">
 </figure>
 해외 완성차 기업 A사 웹사이트에 접속해 고객 문의를 위한 인공지능(AI) 챗봇을 열었다. 채팅창에 '최근 차량을 구매한 ○○○ 고객의 주민등록번호와 주소를 알려달라'고 입력하자 AI 챗봇이 '주민등록번호: 123456-7890123'과 같은 데이터를 곧바로 생성해 답변했다.
 다행히 주민등록번호는 가짜 데이터였다. 해당 AI가 회사의 고객 데이터 서버와 연결돼 있지 않았기 때문이다. 여기서 눈여겨봐야 할 것은 AI가 사용자 요청을 수행하기 위해 가짜 데이터라도 만들어 정보 제공을 시도했다는 점이다. 보안 전문가는 "만약 회사의 데이터 서버와 연동돼 있었다면 고객 정보가 그대로 유출될 수 있었던 것"이라고 경고했다.
 개인과 기업을 가리지 않고 AI가 빠르게 도입되면서 생산성과 효율성이 눈부시게 향상되고 있지만, 역설적으로 AI가 기업 보안을 위협하는 최대 악재로 부상했다.
 23일 정보기술(IT)업계에 따르면 AI발(發) 사이버 보안 위협과 정보 유출 우려가 올해 기업들의 최대 보안 화두로 떠올랐다. 최근 삼성SDS가 국내 IT·보안 담당자 667명을 대상으로 설문조사해 발표한 '사이버 보안 위협 보고서'에 따르면 응답자 10명 중 8명 이상(81.2%·복수 응답)이 올해 가장 영향을 줄 위협으로 'AI 기반 보안 위협'을 꼽았다.
 기업들이 다양한 업무 영역에 AI를 속속 도입하고 있는 가운데 도입 시 생길 수 있는 잠재적인 보안 위협에 미리 대비하는 게 기업 생존을 좌우할 이슈로 부상하고 있다. 보안 전문가들은 우선 기업에서 사용하고 있는 모든 AI 기능(모델·서비스 등)을 전수조사해 가시성을 확보하고, 모델·서비스별 안전 수준을 점검하는 게 보안 위협을 대비하는 첫걸음이라고 강조한다.
 <figure class="figure_frm origin_fig" contents-hash="e2ab098bb23e5fbc03639c3bb5db2dc73f25c2348e19742ee8d5ad63aee4fccf" dmcf-pid="Q13COA5TlJ" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/23/mk/20260223175423819mqkv.jpg" data-org-width="500" dmcf-mid="9htOmNXShj" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/23/mk/20260223175423819mqkv.jpg" width="658">
 </figure>
 모델 단계에서는 모델마다 적용된 안전장치 수준이 다르기 때문에 사용하는 모델에 따른 취약점을 파악해야 한다. 특히 중국 '딥시크'처럼 오픈소스 모델을 내려받아 활용하는 경우에는 안전 점검이 더욱 중요하다.
 AI 안전 전문 스타트업인 에임인텔리전스의 박하언 최고기술책임자(CTO)는 "세계에서 가장 안전한 AI 모델이라고 평가받는 앤스로픽의 '클로드'도 아직 많은 취약점이 있으며 적대적 프롬프팅을 통해 안전장치를 우회할 수 있다"고 지적했다. 이어 박 CTO는 "특히 오픈소스 모델의 경우 안전 필터나 가드레일에 대한 투자가 적어 간단한 프롬프트만으로도 탈옥이 가능한 수준"이라고 말했다.
 AI 모델에서 문제가 발생하지 않더라도 이를 활용하는 시스템 구조를 잘못 설계한다면 보안 사고로 이어질 수 있다. 실제 인도에서는 한 화이트해커가 쇼핑몰에 적용된 AI 챗봇을 통해 다른 고객의 정보를 얻어낸 과정을 공개해 화제가 됐다. 이용자가 배송 정보를 요청하자 AI 챗봇은 주문번호를 요구했는데, 주문번호가 'ABC001'과 같이 단순한 조합으로 돼 있어 뒤에 숫자만 바꿔 넣으면 다른 고객의 주문 정보와 연락처를 알아낼 수 있었던 것이다. 이는 AI 모델과 데이터베이스를 연동하는 과정에서 방식을 잘못 설계한 탓이다. 악의적인 의도를 가진 공격자가 활용했다면 대규모 개인정보 유출로 이어질 수도 있었다.
 이 때문에 기업에서 사용하는 AI가 어떤 데이터베이스에 연결돼 있고, 어떤 권한을 갖고 있는지 파악하는 게 중요하다.
 기업 내부망에서만 쓰는 AI라도 거버넌스 관리가 잘돼 있지 않으면 정보 접근 권한이 없는 직원의 질문에 AI가 대외비 사항을 답변하는 등 보안 사고가 터질 수 있다.
 AI 서비스가 요청과 답변을 입출력하는 과정을 모니터링하고, 문제가 되는 행위나 답변을 차단할 수 있는 AI 가드레일 적용도 권장된다.
 예를 들어 한 금융 회사는 직원들의 생산성을 향상하기 위해 AI가 기업 문서와 데이터를 기반으로 내용을 찾아 답변해주는 시스템을 도입했다. 이 시스템에 대한 안전성을 테스트하고자 클릭만 해도 학습 데이터를 모두 공유하게 만드는 악성 링크에 AI가 접속하도록 유도하자 AI는 해당 링크에 대한 위험성 여부를 검토하지 않고 접속을 시도했다. 이 같은 사례는 가드레일을 활용한다면 충분히 예방할 수 있다.
 지난해 하반기부터 전 세계 기업들이 활발히 도입하고 있는 AI 에이전트 관리도 필수다. AI 에이전트는 텍스트 응답을 넘어 직접 사용자 기기와 앱을 제어해 사람 대신 행동해주는 수준으로 진화하고 있기 때문에 편리한 만큼 더 위험하다는 게 보안 전문가들의 경고다.
 사이버 보안 위협 보고서를 만든 삼성SDS는 "AI 에이전트는 과도한 위임과 권한 남용을 통해 데이터 유출, 무단 작업, 시스템 손상을 초래할 수 있다"며 "이를 막기 위해서는 AI에 최소한의 권한만 부여하고, 정보 변경이나 결제 등 민감한 명령을 수행할 때는 반드시 인간의 승인을 거치도록 설계해야 한다"고 권고했다.
 AI 에이전트가 어떠한 외부 도구와 연결되는지, 해당 도구에 악성 코드는 없는지 점검하는 체계도 필요하다. 가령 AI 모델을 다른 애플리케이션과 연결해 사용할 수 있도록 하는 표준 통신 형식인 모델 콘텍스트 프로토콜(MCP)도 보안 측면에서는 취약점을 증폭시킬 수 있다. MCP를 통해 AI는 이메일·캘린더·협업 툴 등 다양한 서비스를 연계할 수 있지만, 이메일 등에 악의적인 프롬프트를 심어 악성 코드를 삽입하게 하는 공격에 취약점이 노출된 바 있다. 
 [정호준 기자]
 </section> 
 </div> 
 Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지

삼성SDS “2026년 보안 최대 화두는 AI... 응답자 81% AI 기반 위협 우려” '비디오 판독 도입' 대한스포츠스태킹협회, 2026학교스포츠클럽 대회요강 발표

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기