【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]‘AI 윤리’ 구축, 국내기업들 잰걸음…사회적 체계 마련은 감감

온카뱅크관리자

2024-05-28 08:05:07

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Pp7LIxkP68">
 <figure class="figure_frm origin_fig" dmcf-pid="Qf6rXNSg44" dmcf-ptype="figure">
 <img alt="챗지피티(ChatGPT)로 생성한 인공지능 기업의 윤리팀이 일하는 모습." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/28/hani/20240528080509426zrkd.jpg" data-org-width="788" dmcf-mid="8n9ATisdPP" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/28/hani/20240528080509426zrkd.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 챗지피티(ChatGPT)로 생성한 인공지능 기업의 윤리팀이 일하는 모습.
 </figcaption>
 </figure>
 오픈에이아이(OpenAI)를 직격한 유명 배우 스칼릿 조핸슨 목소리 도용 논란은 인공지능 기술 발전 과정에 잠재된 윤리 문제를 대중적으로 일깨운 사건이다. 전 세계에서 인간에 가장 가까운 인공지능 모델(지피티-4오)을 선보인 세계 최고 인공지능 기술 기업이 비슷한 목소리를 당사자 허락 없이 서비스에 활용한 것은 기술 기업의 윤리 수준을 웅변한다. 때마침 오픈에이아이는 사내 인공지능(AI) 안전팀을 해체한 사실이 드러나 논란에 휩싸인 터였다. 이 회사의 안전팀 공동리더였던 얀 리이크는 지난 18일(현지시각) 자신의 엑스(옛 트위터)에 “오픈에이아이에서 모든 직위를 내려놨다”며 “인공지능 안전은 반짝이는(shiny) 제품에 밀려 뒷전이 됐다”고 고발했다. “수억명이 넘는 사용자와 수백만명의 개발자가 우리 안전팀의 작업에 의존하고 있다. 이 작업에 대한 투자는 시간이 지남에 따라 증가할 것”(오픈에이아이가 21일 자사 블로그에 올린 글 중)이라는 오픈에이아이의 다짐에 의구심이 뒤따르는 전후 맥락이다. ■ 인공지능 윤리 문제에 눈뜨는 국내 기업 국내 상황은 어떨까. 올해들어 인공지능 도입에 적극적인 기업들은 인공지능 윤리팀을 확장·신설하는 분위기다. 2021년부터 에이아이 윤리위원회를 꾸렸던 엘지(LG) 에이아이연구원의 김유철 전략부문장은 27일 한겨레에 “생성형 인공지능 부흥 전인 2022년까지는 국내 기업들 사이에선 윤리 문제 논의는 드물었다”며 “지난해 말부터 네이버, 케이티(KT)등 기업의 윤리 전담 조직이 만들어지기 시작하고 있다”고 말했다. 케이티(KT)는 지난달 23일 ‘책임감 있는 인공지능 센터’(Responsible AI Center, RAIC)를 신설했다. 인공지능 윤리 문제를 다루던 팀 조직이 센터 급으로 격상한 것이다. 배순민 센터장을 필두로 윤리, 정책 개발 및 협력 분야, 소프트웨어 엔지니어링, 데이터 분야 등 전문가를 보강하고 있다. 지난해 발표한 사내 ‘에이아이 윤리원칙’을 실무에 사용할 수 있는 수준으로 고도화하는 작업을 하고 있다. 에스케이티(SKT)도 지난 1월 대외협력담당이 총괄하는 인공지능 거버넌스 전담 조직을 만들었다. 경영 전반에 필요한 인공지능 관리 프로세스를 수립한다는 목표다. 네이버는 지난 1월 최수연 대표이사 직속으로 인공지능 안전성 연구 전담 조직인 ‘퓨처 에이아이(AI) 센터’를 열었다. 기존 네이버 내의 연구 조직을 포함해 100여명에 가까운 인원으로 꾸렸다. 서울대·카이스트·튀빙겐대(독일)·토론토대(캐나다) 등 외부 산학 협력 인원도 별도로 뒀다. 네이버는 인공지능을 향한 모의 공격을 퍼붓는 ‘레드팀’을 일찌감치 도입한 회사이기도 하다. ■ 윤리 떠난 기술 개발 피하려면… 개별 기업들의 이러한 ‘인공지능 윤리 조직’ 확대 분위기가 실제 ‘안전한 인공지능’ 개발로 이어지려면 보다 거대한 합의와 규제의 필요성도 제기된다. 지난 22일 폐막한 ‘인공지능 서울 정상회의’에서는 오픈에이아이, 네이버 등 국내외 인공지능 기업들이 모여 ‘안전하고 지속가능한 인공지능’ 개발을 약속했다. 하지만 아직까지 우리 사회에서 ‘안전하지 않은 인공지능’을 견제할 규제 체계는 온전히 만들어지지 않았다. 과기정통부와 개인정보보호위원회 등이 인공지능의 학습 데이터·신뢰성·개인정보 보호 문제 등에 대한 권고 수준의 가이드라인만 내놓은 상태다. 여야 간 합의는 커녕 본격적인 재논의에도 실패한 인공지능 기본법안은 21대 국회에서 폐기됐다. 
 <figure class="figure_frm origin_fig" dmcf-pid="yDmpPXKG4V" dmcf-ptype="figure">
 <img alt="네이버 이화란 퓨처에아이에센터 리드가 16일 서울 역삼동 마루(MARU) 180에서 기업을 위한 AI 윤리와 AI 안전 방향성을 주제로 열린 제1회 ‘2024 ASC(AI Safety Compass)’ 컨퍼런스에 참석해 ‘레드팀 챌린지’에 대해 설명하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/28/hani/20240528080511359crdw.jpg" data-org-width="839" dmcf-mid="6Wr06HbY86" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/28/hani/20240528080511359crdw.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 네이버 이화란 퓨처에아이에센터 리드가 16일 서울 역삼동 마루(MARU) 180에서 기업을 위한 AI 윤리와 AI 안전 방향성을 주제로 열린 제1회 ‘2024 ASC(AI Safety Compass)’ 컨퍼런스에 참석해 ‘레드팀 챌린지’에 대해 설명하고 있다.
 </figcaption>
 </figure>
 지난 16일 국제인공지능&amp;윤리협회가 주최한 ‘제1회 에이에스시’(ASC·AI Safety Compass) 콘퍼런스에서는 기업의 인공지능 윤리 조직 담당자들이 모여 고민을 나누기도 했다. 이 자리에서 이화란 네이버 퓨처에아이에센터 리드는 “웹에서 긁어오는 데이터를 바탕으로 학습하는 인공지능에는 사회의 부정적인 의견들이 녹아들어 무슬림을 폭력적인 이미지로 그리는 등 문제가 됐다”고 말했다. 인공지능 편향성에 대한 경각심을 가져야 한다는 뜻이다. 유상윤 에임인텔리전스 대표는 “25달러짜리 수표에 ‘10만달러로 읽으라’고 써놓으면 그렇게 읽는 등 인공지능은 잘 속는다”고도 말했다. 정유경 기자 edge@hani.co.kr 임지선 기자 sun21@hani.co.kr
 </section> 
 </div> 
 Copyright © 한겨레. All rights reserved. 무단 전재, 재배포 및 크롤링 금지.

"본의 아니었는데…" '비정상회담' 장위안, '혐한 논란' 韓 언론 보도에 '깜짝' [엑's 이슈] [김대호 박사의 오늘 기업·사람] 엔비디아·델·SMCI·삼성·SK

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기