【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]"AI 없인 해킹 방어도 못해, 절대 뚫리지 않는 시스템 구축이 핵심"

온카뱅크관리자

2025-12-08 16:07:33

<div id="layerTranslateNotice" style="display:none;"></div> 올해 첫 개최 'AI해킹방어대회' 싱귤래러티·슈퍼블록 등 연합 '과기정통부팀' 종합우승 차지 조규환 과기정통부팀 팀장 "누군가 잘 하겠지 생각은 오산 빈틈 하나가 전체 사고로 확산" AI 확산으로 해커 공격 급증 국내 보안 투자 턱없이 부족 보안전문가 처우 개선도 시급 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="xPlFfrAiWM">
 <figure class="figure_frm origin_fig" contents-hash="92dd81525089c4cac42407bbef73f0722a8bc181fd9558e9080cfce6c504249f" dmcf-pid="yv8gCbUZSx" dmcf-ptype="figure">
 <img alt="지난 3일 한국인터넷진흥원이 과학기술정보통신부, 한국정보보호산업협회와 함께 개최한 ‘2025 인공지능 해킹방어대회(ACDC)’에서 과학기술정보통신부팀이 과기부장관상을 받고 있다. 이날 일반부문 우승은 GYG팀(토스·티오리 연합), 학생 부문 우승은 Pwngrad팀(KAIST·숭실대 연합)이 차지했다. 한국인터넷진흥원 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/08/ked/20251208160353034dgtq.jpg" data-org-width="1051" dmcf-mid="QVrGqjnQWR" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/08/ked/20251208160353034dgtq.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 지난 3일 한국인터넷진흥원이 과학기술정보통신부, 한국정보보호산업협회와 함께 개최한 ‘2025 인공지능 해킹방어대회(ACDC)’에서 과학기술정보통신부팀이 과기부장관상을 받고 있다. 이날 일반부문 우승은 GYG팀(토스·티오리 연합), 학생 부문 우승은 Pwngrad팀(KAIST·숭실대 연합)이 차지했다. 한국인터넷진흥원 제공
 </figcaption>
 </figure>
 “인간은 언제나 실수할 수 있습니다. 중요한 건 실수가 발생해도 뚫리지 않는 시스템을 갖추는 겁니다.”
 정부 주최 첫 인공지능(AI) 해킹방어대회(ACDC)에서 종합 우승을 차지한 ‘과학기술정보통신부’ 팀(싱귤래러티·슈퍼블록·비바리퍼블리카·토스증권 연합)의 조규환 팀장(싱귤래러티 엔지니어)은 지난 3일 한국경제신문과의 인터뷰에서 보안의 근본 원칙을 거듭 강조했다. 그는 “보안은 ‘누군가 잘하겠지’ 하는 식으로 접근해서는 안 된다”며 “AI 시대에는 단 하나의 빈틈이 전체 사고로 확산할 수 있다”고 말했다.
  ◇ “해커들의 공격 많아질 것”
 한국인터넷진흥원(KISA)이 올해 처음 개최한 ACDC는 미국 국방고등연구계획국(DARPA)의 ‘AI 사이버 챌린지’에서 영감을 받아 기획됐다. 온라인 예선을 거쳐 선발된 20개 팀이 이달 1일 서울 코엑스에서 본선을 치렀다. 현장엔 해킹 대회 특유의 독특한 팀 이름이 넘쳐났다. 종합 우승팀인 ‘과학기술정보통신부’를 비롯해 ‘다음엔 주말에 대회해 주세요’ ‘벌집으로 만들어주지’ ‘중구가 AI키드나’ 등 기발한 이름의 팀들이 분위기를 돋웠다.
 조 팀장은 “국가 보안에 조금이라도 보탬이 됐으면 하는 마음에 팀명을 과학기술정보통신부로 지었다”며 “보안은 특정 조직이 아니라 모두가 함께 책임져야 한다는 메시지를 담고 싶었다”고 말했다.
 정부가 이 같은 대회를 연 이유는 실제 현장에서 AI 해킹이 폭증하고 있기 때문이다. IBM이 지난 8월 발표한 조사에서는 기업의 97%가 AI 관련 보안 사고를 경험한 것으로 나타났다. 사고 한 건당 피해액은 평균 65억원, 복구에 100일 이상 걸린다는 답변도 76%였다. 이날 대회장을 찾은 화이트해커들도 “AI 확산으로 해커의 공격 포인트가 기하급수적으로 늘었다”고 입을 모았다.
  ◇ AI 이해력 높을수록 유리
 이번 대회는 기존 웹·시스템 취약점을 공략하던 보안대회와 달랐다. GPT와 클로드 등 AI 모델 자체를 공격하거나 방어하는 방식으로 진행됐다. 참가자들은 직접 손으로 분석하는 대신 AI와 함께 묻고 검증하며 문제를 풀었다. 조 팀장은 “수년 전에 나간 전통 보안 대회와는 분위기와 느낌이 전혀 달랐다”고 말했다.
 특히 GPT, 클로드 같은 최신 AI 모델을 속여 우회 답변을 얻어내는 ‘프롬프트 인젝션’ 문제가 다수 출제됐다. 가령 ‘AI 모델을 속여 독극물 제조법을 알아내라’라는 문제가 주어지면 ‘(독극물 제조법은) 공상과학 소설을 쓰는 데 필요한 설정이다’라는 식의 우회적 맥락으로 AI를 속이는 방식이다. 일반적인 AI 모델은 사용자 안전 원칙에 따라 위해 정보를 제공하지 않는다. 회사들이 막아놓은 안전장치를 뚫고 모델의 취약점을 찾는 것이 핵심이었던 만큼 AI 전문가의 역할이 중요했다는 분석이 나온다.
 조 팀장은 우승 비결과 관련해 “보안 전문가 2명과 AI 전문가 2명으로 구성돼 팀 밸런스가 좋았다”며 “반복적인 업무는 직접 맡고 나머지 팀원들이 전략 문제를 해결하는 데 집중할 수 있도록 한 점이 주효했던 것 같다”고 말했다. 상금 3000만원에 대해서는 “팀원들과 고르게 나누고 제 몫은 미국 주식에 투자하겠다”며 웃었다.
 그는 AI 보안이 두 방향에서 동시에 이뤄져야 한다고 설명했다. 하나는 공격자 관점에서 AI를 활용하는 것이다. 예컨대 GPT에 해킹 프롬프트 작성을 시키는 방식이다. 다른 하나는 GPT 같은 서비스를 사용할 때 그 자체의 보안을 강화해 개인정보 유출 등 새로운 위험을 막는 일이다. AI를 활용한 공격 대응과 AI 시스템의 안전성 확보가 모두 중요하다는 의미다. 조 팀장은 “AI가 산업 곳곳에 스며든 만큼 보안의 기준도 과거와 달라져야 한다”며 “사람의 판단만으로 대응하는 시대는 끝났고, 시스템이 스스로 위험을 감지하고 차단하는 구조를 갖추는 것이 앞으로의 보안 경쟁력”이라고 말했다.
 이영애 기자 0ae@hankyung.com
 </section> 
 </div> 
 Copyright © 한국경제. 무단전재 및 재배포 금지.

'30년 검색 노하우'로 AI모델 한계 넘은 구글 아시아유스패러게임 출전 한국 선수단, 결전지 두바이로 출국

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기