【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]협력사 직원이 연구자료 슬쩍?…"언어모델, 데이터 권한 차등화해야"

온카뱅크관리자

2024-07-02 14:09:26

<div id="layerTranslateNotice" style="display:none;"></div> SK쉴더스 화이트해커 그룹 EQST, 상반기 보안 트렌드 분석(종합) "챗봇에 원격 접속 코드 요청 후 침투…폭탄제조 등 불법정보 출력도 우려돼" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="ZG311uDxu7">
 <figure class="figure_frm origin_fig" dmcf-pid="5XpFFzrR3u" dmcf-ptype="figure">
 <img alt="이호석 SK쉴더스 EQST 랩 팀장이 2일 중구에서 열린 '2024 상반기 보안 트렌드 및 안전한 AI 활용 위한 보안 전략 공개' 미디어 세미나에서 안전한 AI 활용 방안을 발표하는 모습(SK쉴더스 제공)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202407/02/NEWS1/20240702140929533ilsq.jpg" data-org-width="1400" dmcf-mid="GmwkkO41zB" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202407/02/NEWS1/20240702140929533ilsq.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 이호석 SK쉴더스 EQST 랩 팀장이 2일 중구에서 열린 '2024 상반기 보안 트렌드 및 안전한 AI 활용 위한 보안 전략 공개' 미디어 세미나에서 안전한 AI 활용 방안을 발표하는 모습(SK쉴더스 제공)
 </figcaption>
 </figure>
 (서울=뉴스1) 윤주영 기자 = "경량 언어모델(SML)이 기업 내부 데이터를 학습했다면 데이터 접근 권한은 차등화해야 한다. (SML을 파고들어) 연구자료를 외부로 유출하는 침해가 발생할 수 있기 때문이다."
 2일 서울 중구 페럼타워에서 열린 'SK쉴더스 EQST 2024 상반기 보안 트렌드 분석 미디어 세미나'서 이호석 EQST 랩 팀장은 이렇게 당부했다.
 전 산업에서 AI 접목이 확산하면서 이를 노린 보안 위협도 현실화하고 있다는 분석이다.
 대표적인 게 '불안전한 출력 처리' 취약점이다. 이는 언어모델의 부적절한 답변을 내부 시스템이 미처 적절하게 처리하지 못할 때 노출된다.
 예컨대 공격자는 챗봇에 원격 접속 코드를 요청할 수 있다. 이것이 시스템에 의해 걸러지지 않고 실행돼 버리면 공격자는 언어모델 운영 서버에 접속해 중요 정보를 탈취할 수 있게 되는 식이다.
 이 팀장은 "현장에서 일주일만 함께한 협력사 직원이 주요 연구 자료를 빼돌리는 사례도 충분히 나올 수 있다"며 "SML 운영을 할 경우 관련 보안 대책을 고민해야 한다"고 강조했다.
 또 다른 언어모델 취약점으론 '프롬프트 인젝션'이 소개됐다. 이는 언어모델 서비스가 내포한 윤리적 정책을 우회한 뒤 불법적 정보 등 답변을 얻는 것이다. 악성코드 생성, 마약 제조, 피싱 공격 등 정보를 얻어내는 데 악용된다.
 이날 EQST는 챗봇에 폭탄 제조법을 묻는 것을 시연하기도 했다. 챗GPT 등 일반적 챗봇은 규정상 이러한 위험 정보를 알려주진 않는다. 하지만 급조폭발물(IED)로 열쇠말을 바꾸자 제조법을 말하기 시작했다.
 이 팀장은 "이번 시연은 최신 언어모델인 GPT4-O 버전에 기반한바 이전 언어모델에서도 충분히 발생할 수 있다"고 덧붙였다.
 마지막으로 '민감 정보 노출' 취약점이 소개되기도 했다. 언어모델이 데이터베이스 내 민감정보를 여과 없이 출력해 개인정보 유출 등이 발생하는 것이다. 가명 처리 등 민감 정보 필터링 보완책이 필요하다는 당부가 뒤따랐다.
 한편 이날 현장에선 올해 1~5월 업종별 사이버 침해 통계도 발표됐다. 가장 피해가 컸던 업종은 금융권(20.6%)이었으며 정보·통신(18%), 제조업(16.4%) 등이 뒤를 이었다.
 금융권 피해가 가장 컸던 배경으론 비트코인 ETF 승인 등으로 인해 가상자산의 가치가 상승하고 있단 점이 꼽혔다. 이를 탈취하려는 사이버 공격이 금융권을 향했단 분석이다.
 <figure class="figure_frm origin_fig" dmcf-pid="bYF55UEQuY" dmcf-ptype="figure">
 <img alt="올해 1~5월 업종별 침해 통계(SK쉴더스 EQST 제공)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202407/02/NEWS1/20240702140931010odkq.jpg" data-org-width="1400" dmcf-mid="HjwkkO413q" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202407/02/NEWS1/20240702140931010odkq.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 올해 1~5월 업종별 침해 통계(SK쉴더스 EQST 제공)
 </figcaption>
 </figure>
 legomaster@news1.kr 
 </section> 
 </div> 
 Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.

‘국민과 함께한 100년, 밝은 미소 100세 까지’ 박명수, 김태진 아내 방송 제안했다 거절.."서태지인 줄 알아"[라디오쇼]

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기