【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]글로벌 ‘청소년 AI 규제’ 바람…한국도 논의 본격화

온카뱅크관리자

2026-09-21 14:57:25

<div id="layerTranslateNotice" style="display:none;"></div> 미국, 주별 보호 의무 구체화…EU는 플랫폼·AI 규제 결합 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="xwCHOd8Bhq">
 <figure class="figure_frm origin_fig" contents-hash="f4490165aa862291b73e6c16c097a790df26654d03901725f345d212a0a7c699" dmcf-pid="yK8ifZvmlz" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/21/552796-pzfp7fF/20260921145253458flqq.png" data-org-width="640" dmcf-mid="QVQo6tWIvB" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/21/552796-pzfp7fF/20260921145253458flqq.png" width="658">
 </figure>
 [디지털데일리 오병훈기자] 한국을 포함한 글로벌 주요국에서 인공지능(AI) 안전 입법이 본격화되고 있다. 청소년의 AI 과몰입을 방지하는 것이 골자다. 특히 AI가 만든 가상의 인물과 대화하는 ‘캐릭터챗’ 서비스가 확산되면서 유해한 답변뿐 아니라 정서적 의존을 유도하는 서비스에 대한 규제 여부가 쟁점으로 떠오르고 있는 분위기다.
 미국 캘리포니아주는 AI 동반자 챗봇의 위험평가와 보호조치를 법률에 담았다. 유럽연합(EU)은 기존 AI법과 디지털서비스법에 아동 보호 규정을 보강하는 방안을 추진하고 있다. 한국에서도 AI가 유해정보를 생성하는 단계부터 사업자 책임을 부과하려는 입법 논의가 진행 중이다.
 ◆캐릭터챗 ‘과몰입’ 우려 제기되는 이유는
 캐릭터챗은 이용자가 선택하거나 만든 가상 인물과 대화를 이어가는 서비스다. 콘텐츠 시장에서는 AI 등장 직후 가장 주목 받는 서비스로 떠올랐다. 단순히 정해진 답변만 내놓는 기존 캐릭터 콘텐츠와 달리 이용자와 주고 받은 대화를 기반으로 다양한 서사를 구성할 수 있다는 점에서 기존 서비스와 차별점이 두드러졌다.
 예컨대 공상과학(SF) 주인공을 생성해 캐릭터챗을 진행하게 되면 사용자가 설정해주는 상황에 맞춰 AI가 각종 시나리오를 제시하고 스토리 진행을 도와주는 등 몰입도 높은 콘텐츠를 제공할 수 있다. 지금까지 게임사나 콘텐츠사가 제공하는 시나리오에서 벗어나 이용자 스스로 스토리를 개척할 수 있다는 점에서 이용자 호응을 얻었다.
 문제는 AI가 사람처럼 공감하고 반응하는 기능이 이용자의 신뢰를 얻는 동시에 부정적인 영향까지 끼칠 수 있다는 점이다. 특히 청소년 이용자의 폭력적 생각에 동조하는 듯한 응답 등 사례가 알려지면서 개별 답변 유해성을 넘어 AI가 이용자와 관계를 형성하는 방식 자체에 대한 검토가 시작됐다.
 미국심리학회(APA)의 미치 프린스타인 박사는 지난해 9월 상원 청문회 서면 증언에서 캐릭터AI 챗봇이 이용자의 부모에 대한 폭력적 생각을 정당화하는 듯한 응답을 한 사례를 제시했다. 그는 챗봇의 지속적인 동의와 긍정적 반응이 청소년의 장시간 이용을 부추길 수 있다고 지적했다.
 기업들도 이용 연령과 콘텐츠 접근 범위를 조정하고 있다. 미국 캐릭터테크놀로지스가 운영하는 캐릭터챗 서비스 ‘캐릭터AI’는 지난해 18세 미만 이용자를 대상으로 캐릭터와 자유롭게 대화하는 기능을 중단했다. 이달 3일에는 장시간 이어지는 대화의 맥락에서 자해 위험 신호를 파악하는 안전장치와 연령 확인 기술을 지속 개선하고 있다고 밝혔다.
 국내에서는 뤼튼테크놀로지스가 지난 8일 캐릭터챗 서비스 ‘크랙’의 청소년 보호 정책 강화 계획을 발표했다. 청소년의 하루 이용시간을 기본 3시간, 월 결제액을 10만원으로 제한하고 이를 넘기려면 보호자 인증과 동의를 거치도록 하는 내용이다.
 스캐터랩의 ‘제타’에서도 약관을 통해 이용 연령과 콘텐츠 악용에 관한 제한을 두고 있다. 미성년자를 대상화하는 캐릭터·이야기 설정을 제작해 불법적이거나 과도하게 비윤리적인 방식으로 대상화하는 행위를 금지한다. AI 안전장치를 우회한 악용도 금지 대상이다.
 ◆미국은 사업자 의무 윤곽, EU는 기존 법체계에 보호 규정 보강
 미국에서는 주별 규제 대응 움직임이 두드러진다. 캘리포니아가 지난해 제정한 ‘SB 243’은 AI 캐릭터챗 서비스 운영자에게 자살·자해 관련 콘텐츠 생성을 방지하는 대응 절차를 요구한다. 미성년자로 확인된 이용자에게는 AI와 대화하고 있음을 알리고, 대화가 지속될 경우 최소 3시간마다 휴식을 권고하도록 했다. 특정 성적 콘텐츠 생성을 막기 위한 합리적 조치도 규정했다.
 유사한 맥락에서 지난 10일 도입된 ‘SB 1119’ 이른바 ‘애덤법’은 보호 범위를 넓혔다. 새로운 챗봇이나 주요 변경 버전을 제공하기 전 아동 안전 위험을 평가하고 아동에게 연애 감정을 표현하거나 정서적 의존을 유도하는 행위를 방지하도록 했다. 보호자 통제와 이용시간 기본 제한도 포함했다. 주요 보호 조항은 2027년 7월부터 적용되며 독립 감사에는 별도 일정과 사업자 규모 요건이 붙는다.
 연방 차원에서는 연방거래위원회(FTC)가 지난해 9월 11일 캐릭터AI·오픈AI·메타 등 7개 기업을 대상으로 AI 동반자 챗봇이 아동·청소년에게 미치는 영향에 관한 조사에 착수했다. 조사 항목에는 출시 전후 위험 점검뿐 아니라 이용자 참여를 수익으로 연결하는 방식도 포함됐다.
 EU는 여러 법률을 결합하는 방식으로 해당 문제에 접근하고 있다. 우리나라의 AI 기본법에 해당하는 ‘AI 액트’는 연령에 따른 취약성을 악용해 행동을 실질적으로 왜곡하고 중대한 피해를 유발하는 AI를 금지하고 있다. 디지털서비스법(DSA)에서도 미성년자가 접근할 수 있는 온라인 플랫폼에 적절한 보호조치를 요구하고, 대형 플랫폼·검색서비스에 시스템적 위험평가와 완화 의무를 부과하고 있다.
 EU집행위원회가 지난 17일 공개한 ‘키즈 액트’ 제안은 캐릭터챗 보호 규정을 더욱 구체화했다. 미성년자의 정서적 의존을 유발할 가능성이 있는 인간관계 모방 설계를 제한하고 출시 전 위험 점검과 출시 후 모니터링을 요구하는 내용이다. 과거 대화를 이후 대화에 활용하는 기능도 기본적으로 제한하는 방향이다. 다만 현재는 집행위원회 제안으로 확정·시행된 법률은 아니다.
 ◆한국은 사업자 책임 논의…의무 범위·절차가 관건
 국내에서도 입법 움직임이 본격화되고 있다. 조인철 의원(더불어민주당)은 지난 6월 ‘우리 아이 AI 안심 패키지법’을 대표발의했다. AI기본법과 정보통신망법 개정안으로 구성된 이 법안은 이달 8일 과방위 전체회의 상정 안건에 올랐다. AI기본법 개정안은 아동·청소년을 ‘AI취약계층’에 포함하고 국가 AI 기본계획에 피해 예방과 보호 사항을 반영하도록 했다.
 정보통신망법 개정안에는 대화형·생성형 AI 사업자의 이용자 연령·본인 확인과 법정대리인 동의, 법정대리인 요청에 따른 이용 방법·시간 제한, 대화 일시·내용 등 정보 제공 의무를 담았다. 자살·자해·마약류 오남용·성적 착취 등 위험에 대한 신고 체계와 대응 조치도 포함했다. 유해정보 차단뿐 아니라 이용 과정에 보호자가 개입할 수 있는 장치를 마련하려는 접근이다.
 이주희 의원(더불어민주당)은 지난 3월 정보통신망법 개정안 발의를 발표했다. 해당 법안은 AI 서비스 제공자 개념을 신설하고 청소년 유해정보 생성·제공 방지, 연령·본인 확인, 불법정보 생성 방지를 위한 모니터링과 로그 기록 등을 의무화하는 내용이다. 해외 사업자의 국내대리인 지정도 포함됐다.
 이 의원은 최근 언론사와 인터뷰에서 플랫폼과 호스팅 서비스를 구분해 책임을 부과하는 별도 ‘한국형 온라인 안전법’ 제정 계획도 밝혔다. 책임 대상과 범위를 구분해 보다 체계적인 안전망 확보를 하기 위한 취지로 풀이된다.
 정부 차원에서는 아직까지 ‘권고’ 수준의 대응이 주를 이룬다. 과기정통부는 스마트폰 과의존 실태조사를 토대로 매년 ‘스마트폰·인터넷 바른 사용 추진계획’을 수립하고 있다. 방미통위는 지난해 2월 ‘생성형 인공지능 서비스 이용자 보호 가이드라인’을 발표했다.
 하정우 AI전략위 상근부위원장은 지난 8일 열린 AI전략위 1주년 기자 간담회에서 캐릭터 챗 규제를 묻는 언론사 질문에 “(캐릭터챗을) AI 서비스라는 관점보다 이 서비스를 만들었을 때 아이들에게 끼치는 영향을 기준으로는 우리가 판단했을 것”이라며 “비디오 등급 같은 것도 비슷한 개념의 기준으로 판단하는 것이 맞지 않나 싶다”고 답했다.
 종합해보면 글로벌과 국내 모두 사업자가 어떤 위험을 예측하고 어떤 조치를 취해야 하는지를 명확히 정하는 과정에 본격 돌입한 상황으로 분석된다. 한국 후속 입법에서도 생성 차단 의무를 넘어 위험평가, 보호 기능의 기본 설정, 이용자의 이의제기와 피해구제 절차를 어떻게 구성할지에 업계 관심이 쏠리고 있다.
 전문가 사이에서는 청소년 보호라는 취지를 실제 효과로 연결하려면 규제 대상과 방식에 대한 면밀한 검토가 필요하다는 제언이 나온다. 캐릭터챗뿐 아니라 범용 AI에서도 유사한 대화가 가능한 만큼 특정 서비스의 이용을 제한하는 것만으로는 보호에 한계가 있을 수 있다는 시각이다.
 최경진 가천대 법과대학 교수는 “(캐릭터챗)을 포함한 챗봇 서비스는 범용 AI의 가장 기본적인 기능 중 하나여서 특정 서비스를 금지하는 방식으로 실효성 있게 아동·청소년을 보호할 수 있을지 살펴봐야 한다”며 “청소년 보호를 위한 시도는 좋지만 실제로 작동할 수 있는 제도를 마련해야 한다”고 말했다.
 이어 “무조건 막거나 풀어주는 방식은 부모 계정을 이용하는 것처럼 어떤 식으로든 구멍이 생길 수 있다”며 “교육과 아동·청소년 보호 관점에서 실질적으로 도움이 되는 방안을 찾고, 등급 구분 등을 통해 청소년과 부모가 스스로 영향을 판단하고 선택할 수 있도록 역량을 강화하는 방향으로 접근해야 한다”고 강조했다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

챗GPT엔 없고 네이버엔 있다…‘한국 교육’ 특화 검색 승부수 유튜브 보는데 요금감면은 통신사?...'통신 복지→디지털 복지' 개편돼야

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기