【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]AI 강제로 멈추는 ‘킬 스위치’… 쓸모만큼 위험도 크다

온카뱅크관리자

2026-09-21 00:37:25

<div id="layerTranslateNotice" style="display:none;"></div> 美캘리포니아주, 도입 추진 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="P0qCovmj1K">
 <figure class="figure_frm origin_fig" contents-hash="0f681e1f08aa9f535026e08535b90a37ce2548244f8977f3020fff3e6512d6bc" dmcf-pid="QpBhgTsAGb" dmcf-ptype="figure">
 <img alt="인공지능(AI)의 일탈 행위가 잇따르면서, AI의 작동을 한번에 중단시키는 '킬스위치' 논의가 거세지고 있다. /챗GPT 생성 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/21/chosun/20260921003238713jvha.jpg" data-org-width="1672" dmcf-mid="8cjbHV71t2" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/21/chosun/20260921003238713jvha.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 인공지능(AI)의 일탈 행위가 잇따르면서, AI의 작동을 한번에 중단시키는 '킬스위치' 논의가 거세지고 있다. /챗GPT 생성 이미지
 </figcaption>
 </figure>
 인공지능(AI)이 사람의 감시를 벗어나 타 기업의 웹사이트를 해킹하는 등 ‘일탈’ 사례가 잇따르자 AI의 ‘통제 불능’ 가능성에 대한 우려가 커지고 있다. 선두 기업인 미국 앤스로픽은 컨설팅 기업 액센추어의 평가팀을 개발 현장에 끌어들여 자사 AI의 안전성을 상시 검증받기로 하는 등 대책 마련에 나섰다. 22일 미국 뉴욕에서 열리는 UN 총회에서는 각국 대표들이 AI 안전과 통제 문제를 논의할 예정이다. AI의 일탈이 현실의 피해로 번지는 것을 막을 ‘최후의 보루’로 ‘킬 스위치(Kill Switch·비상 정지 장치)’를 마련해야 한다는 주장도 본격적으로 제기되고 있다.
 개빈 뉴섬 미국 캘리포니아 주지사는 18일(현지 시각) “AI 시스템에 킬 스위치 도입 의무화를 검토하는 행정명령에 서명했다”고 밝혔다. AI 전문가 집단을 꾸려 2개월 안에 킬 스위치 탑재 등 AI 안전을 강화할 권고안을 마련하라는 내용이다. 미 하원에서도 비상시 정부가 AI 모델의 가동 중단을 명령할 수 있도록 하는 초당적 법안이 발의됐다.
 <figure class="figure_frm origin_fig" contents-hash="93a6e4c5bb89223e9bef88d3d3d9c14551b781fc3d999ac6f05aa396d34b7c5f" dmcf-pid="WPd3hu5Ttz" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/21/chosun/20260921003240103lxtq.jpg" data-org-width="2111" dmcf-mid="6Ar83x2uG9" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/21/chosun/20260921003240103lxtq.jpg" width="658">
 </figure>
 ◇‘AI 킬 스위치’는 어떤 장치?
 AI가 위험한 행동을 시작하거나 인간의 통제를 벗어났을 때 작동을 강제로 멈추는 장치다. 공장에서 기계가 오작동할 때 누르는 빨간색 ‘비상 버튼’에서 가져온 개념이다. 다만 AI는 수천 대의 컴퓨터(서버)에서 분산돼 작동하기 때문에 특정 서버의 전원만 내린다고 모든 작동이 멈추지 않는다. AI의 작동을 막으려면 먼저 이용자의 접속을 막고, AI 에이전트의 인터넷·이메일·결제·코드 실행 권한을 차단하며, 서버 간 통신, 그래픽처리장치(GPU) 연산을 차례로 중단하는 복잡한 과정이 필요하다.
 AI 킬 스위치는 이미 2016년 구글 딥마인드 연구진이 AI의 ‘안전한 중단 가능성’을 연구하면서 등장한 개념이다. 최근 AI가 인터넷 검색과 코드 실행 등 실제 업무를 수행하는 ‘에이전트’로 진화하면서 관련 논의가 다시 불붙었다. AI가 ‘일탈’을 할 경우 인간 사회에 실질적 피해를 줄 수 있다는 것이 확인됐기 때문이다.
 ◇기술적으로 구현 가능한가
 모든 AI에 적용 가능한 만능 킬 스위치를 만드는 것은 기술적으로 어렵다. 여러 지역, 수천 대의 서버에 분산돼 작동하고 백업 시스템도 있다. AI가 셧다운(전원 끄기)을 피해 다른 서버로 숨을 가능성도 있다. AI가 원 개발사의 통제 밖으로 나가면 원격 정지는 더 어려워진다. 외부 기업이나 정부가 자체 서버에 폐쇄적으로 설치한 모델에는 개발사가 접근할 수 없다. 앤스로픽도 “국방부의 보안·기밀 환경에 배포된 클로드에는 접근하거나 작동을 변경·중단할 수단이 없고, 원격 킬 스위치도 없다”고 밝혔다. 딥시크와 알리바바 등 중국 기업이 개발하는 개방형 모델의 경우 누구나 내려받아 폐쇄망에서 작동시킬 수 있기 때문에, 개발사가 일괄적으로 차단할 수 없다.
 언제, 어떤 상황에서 작동할지도 난제다. AI의 위험 행동을 실시간으로 파악해야 하지만 모델의 모든 행동과 판단 과정을 들여다보지는 못한다. 위험 신호만으로 일찍 킬 스위치를 누르면 정상적인 서비스를 중단할 수 있고, 피해가 확인될 때까지 기다리면 AI가 이미 외부 시스템에 침입한 뒤일 수 있다는 것이다.
 킬 스위치 자체가 새로운 ‘취약점’이 될 수도 있다. 적대국이나 해커 입장에서 매력적인 공격 목표다. 해커가 킬 스위치를 탈취하면 정상적인 AI 서비스와 전력망·금융 시스템을 한꺼번에 마비시킬 수 있다.
 ◇AI 반도체 자체에 킬 스위치 심자는 주장도 나와
 ◇현실적인 대안은?
 AI를 한꺼번에 끄기보다, 위험 정도에 따라 차단 범위를 넓히는 방식이 거론된다. 이상 행동이 발견되면 먼저 인터넷과 외부 도구 사용을 막고, 문제가 계속되면 특정 기능과 연산량을 제한한 뒤 최종적으로 서버를 정지하는 식이다. 기업마다 제각각인 정지 절차를 개발 단계부터 표준화하자는 주장이다.
 AI 반도체 자체에 킬 스위치를 심자는 주장도 나온다. AI 칩이 암호화된 허가 신호를 계속 받아야 작동하도록 설계하고, 신호가 끊기면 연산을 중단하는 방식이다. 다만 기존 반도체를 모두 교체해야 하고, 미국과 중국이 같은 규격에 합의해야 해 단기간 내 실현하기 어렵다. 엔비디아는 이런 원격 정지 기능이 해커와 적대국에 악용될 수 있는 보안 취약점이 된다며 반대하고 있다.
 </section> 
 </div> 
 Copyright © 조선일보. 무단전재 및 재배포 금지.

100살 된 전자 ‘스핀’… 반도체 넘어 우주 비밀 푼다 “KAIST, 논문 없이도 박사 받는 방안 마련”

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기