'세계4대석학'앤드류응교수AI글로벌포럼기조강연서강조"혁신이어가려면정부역할중요"세계적인공지능(AI)석학인앤드류응미국스탠퍼드대교수가22일서울성북구한국과학기술연구원에서열린'AI글로벌포럼'에참석해기조연설을하고있다.뉴시스"인공지능(AI)혁신과안전을촉진하려면기술이아니라애플리케이션을규제해야한다."세계4대AI석학중한명인앤드류응미국스탠퍼드대교수가22일한국과학기술연구원(KIST)에서열린AI글로벌포럼기조강연에서"범용기술인AI를규제하면기술발전이더뎌질수있다"며이같이말했다.■"1년전상상못한일현실로"그는"AI의진전은정말급속도로이뤄졌다.1~2년전만해도상상할수없었던것들이현실이되고있다"며"특히생성형AI는교육,비즈니스,법률전문가등여러산업에영향을미치고있다"고말했다.특히EU를비롯해전세계적으로AI규제기조가강해지는것과관련,응교수는AI기술이아닌사용툴인애플리케이션차원에서의규제로나아가야한다고조언했다.예를들어전기모터를범용기술로본다면이를적용한블렌더,전기차,유도폭탄등이애플리케이션(응용품)으로볼수있다.그는"전기모터를어떻게안전하게만들수있을까에초점을맞추면전기모터의사이즈는굉장히작아질수밖에없다"며"사실(기술의)좋은적용사례도있고그렇지않은사례도있는데,이는모두기술이아니라애플리케이션적용차원으로봐야한다.애플리케이션과기술을구분할필요가있다는것"이라고강조했다.가치중립적기술인AI로의료기기를만들고챗봇을구축하고기상이변등에대응할해법을찾을수있는동시에딥페이크등의반작용도있다는의미다.응교수는AI기술을통한미래의변화를긍정적으로전망하며"혁신이느려지지않기위해서는전세계정책입안자들의역할이굉장히중요하다"라며"AI기술이궁극적으로기후변화등인류문제해결에역할을하기를기대한다"고덧붙였다.또다른기조강연자인매사추세츠공과대(MIT)교수출신인마크레이버트보스턴다이내믹스회장은"인류가직면한문제를AI와로봇을통해해결할수있다고본다"고말했다.보스턴다이내믹스는휴머노이드로봇분야선두업체로,지난달휴머노이드로봇아틀라스를공개한바있다.레이버트회장은"AI와로봇은큰기회이자창의성의동인"이라며"궁극적으로로봇과인간이함께음악에맞춰춤을추는,그런번영된사회와미래가올날을기대한다"고말했다.■워터마크로AI제작물식별이날포럼에선빅테크와국내IT업체들의AI개발·발전방향성을담은'서울기업서약'도발표됐다.참가업체는구글,마이크로소프트,오픈AI,IBM,엔스로픽,코히어,세일즈포스,어도비,삼성전자,LGAI연구소,SKT,KT,네이버,카카오등14곳이다.이종호과학기술정보통신부장관은"국내외기업들과책임있는AI개발과사용을위해협력하고,AI가생성한콘텐츠를워터마크로식별조치하고국제표준개발을위해협력을강화하는내용을담은서약"이라며"AI의지속가능한발전과혁신을위해협력하고전문인력육성,사회적취약계층을위한다양성과포용성을장려할것을약속한다"고말했다.오후에열린전문가세션에선'디지털공동번영사회를위한디지털권리보장''디지털권리,AI기회·혜택'을각각주제로의견이교환됐다.한편이날포럼에는구글딥마인드의톰루부사장을비롯해오픈AI의샘올트먼CEO의측근으로분류되는제이슨권오픈AI최고전략책임자(CSO),미국스타트업앤스로픽의잭클락공동창업자,크리스티나몽고메리IBM최고개인정보보호·신뢰책임자,롭셔먼메타부사장등이참석했다.국내에선하정우네이버퓨처AI센터장,배순민KT책임감있는AI센터장,이상호카카오최고AI책임자(CAIO),이홍락LGAI연구원최고AI과학자(CSAI)등이참여했다[email protected]조윤주기자Copyright©파이낸셜뉴스.무단전재및재배포금지.

‘AI글로벌포럼’전문가세션서논의디지털·AI기술로삶변화시키지만양극화현상심해져사이버범죄같은문제점도···AI자체솔루션요구AI기술로삶만족도향상···리터러시확산등과제도[이데일리강민구기자]전세계가디지털전환으로문명변화를맞이하고있다.인공지능(AI)서비스를이용해원하는것을만들고,스마트폰과인터넷이기존삶을빠르게변화시키는모습이다.국내외인공지능(AI)전문가들이이러한시점에서AI를이용해혁신을추구하면서도AI가줄수있는인간의디지털권리와윤리도함께구축해나가야한다고강조했다.‘AI글로벌포럼’전문가세션에서참석자들이논의하고있다.(사진=이데일리강민구기자)22일서울성북구한국과학기술연구원(KIST)에서열린‘AI글로벌포럼’전문가세션에서는최근생성형AI등기술이빠르게발전하는상황에서디지털에익숙한젊은세대는디지털중독현상을겪는반면노년층은배제돼사회적불평등이심화될수있다는점이화두가됐다.파멜라크르지프코프스카(PamelaKrzypkowska)폴란드디지털부국장은“폴란드에서는디지털시대정신건강을중요하게여기는데젊은세대들이온라인플랫폼에서6시간이상을보내는것으로나타나새로운문제가발생하고있다”면서“젊은이들을위한안전한온라인환경을조성할필요성이커지고있다”고지적했다.최근에는생성형AI가발전하면서저작권문제,데이터자산보호범위와같은기존법률체계와시스템에변화도요구되고있다.딥페이크에의한가짜뉴스등디지털사회로인한문제도발생하고있어개인과사회를보호하기위한효과적인대응도필요하다.마커스안데리융(MarkusAnderljung)AI거버넌스센터정책책임자는“AI는범용시스템으로유용하지만인간권리가침해되는경우가발생해사회가기본적으로적응해야한다”면서도“사이버보안등AI기술을이용한범죄등부작용에대응하기위해딥페이크방지필터적용등도구를제공하는한편AI가전기처럼중단되지않고신뢰가능한체계로운영될수있도록AI안전성을추구해나가야한다”라고지적했다.하정우네이버클라우드AI이노베이션센터장이발언하고있다.(사진=이데일리강민구기자)이를위해국제협력과표준화체계구축은관건으로제시됐다.이성웅아마존웹서비스(AWS)코리아AI/ML정책총괄은“전세계각국정부가도전에직면해있는데상호운용가능한정책솔루션이필요하며,국제기준을통해표준화했으면한다”라고말했다.제리시한(JerrySheehan)OECD과학기술혁신국사무총장은디지털전환도인간중심방식으로접근해발전해야하며,인권에도영향이있어디지털정책에서가드레일같은역할을해야한다고봤다.그는“AI는기회인동시에양극화를심화할수있는데OECD는다양한이해관계자를모으고,인권에기반한정책입안을지지하기때문에사회적합의를통해디지털웰빙이이뤄지도록역할을하겠다”고설명했다.기업입장에서는디지털사회의기본권보장,지속적인혁신육성,글로벌협업을통해AI기술을계속개발하면서미래세대를위해혜택을줘야한다는시각도있었다.하정우네이버클라우드AI이노베이션센터장도“AI리터러시(이해력)가모든사람들에게갖춰져야하며,디지털권리를보장하기위해이해관계자들의노력도필요하다”며“네이버는AI기술과디지털기술로삶의만족도를높이는한편개인프라이버시침해문제등부작용도장기적으로대응할계획”이라고강조했다.정부입장에서는AI규제체계나합의가제대로이뤄지지않은상황에서앞으로의문제를해결하기위해논의가계속이뤄져야한다는의견이나왔다.강도현과학기술정보통신부2차관은“정부뿐만아니라국제협력개발기구(OECD)와같은국제기구와국제사회의역할도중요하다”며“많은나라와국제기관들이새로운규제를시도하지만표준화되지않은경향이있는데이런부분들을조화롭게구성해표준화하도록정부도노력할계획”이라고밝혔다.강민구([email protected])Copyright©이데일리.무단전재및재배포금지.

거버넌스AI정책센터총괄"할머니목소리흉내금전요구"…정부역할론강조"여성AI불균형문제,논의되지않아…젠더에기반한편향성철폐해야"[아이뉴스24안세준기자]글로벌인공지능(AI)분야전문가들이AI시대도래에따른부작용에대해청소년무분별노출,온라인장치접근성저하에따른여성의AI불균형혜택,중소기업들의AI도입소외등을거론했다.사람의목소리를흉내내고금전적인대가를요구하는딥페이크범죄에대한대비도갖춰야한다는주장도나왔다.22일오후한국과학기술연구원(KIST)대회의실에서전문가세션1(디지털공동번영사회를위한디지털권리보장)이진행되고있다.[사진=안세준기자]22일오후한국과학기술연구원(KIST)대회의실에서열린전문가세션1에서파멜라크리립코우스카폴란드디지털부문총괄은"폴란드의경우청소년들이휴대폰을하루6시간이상사용하고있다"며"이들을위한안전한환경을보장해야한다"고주장했다.AI를통해다양한콘텐츠가생성되고있는만큼이를식별하는워터마킹이필요하다는게그의주장이다.이성웅아마존웹서비스코리아AI&ML정책책임자는"다양한방식을통해AI의부정적인사용을막고아이들이온라인착취대상이되지않도록노력하고있다"고말했다.AI활용으로특정인에대한권리가침해받아선안된다는것이다.소비자뿐만아니라기업도해당한다.그는"상대적으로규모가작은기업들은AI도입에있어소외될수도있다"며"AWS는AI에대한접근성,대중화가중요하다고생각하고있다"고말했다.사람의목소리를흉내내는범죄에대한대비책을강구해야한다는주장도제기됐다.마커스앤더리룽거버넌스AI정책센터총괄은"(AI시대도래에따라)사이버공격의경우지금보다훨씬더저렴하게범죄를저지를수있게됐다.예를들어할머니의목소리를흉내내어돈을보내달라는딥페이크사기가있다"며규제마련에따른정부의역할론을당부했다.딥페이크신종범죄에대한대응필요성은이미국내에서도제기된바있다.앞서이종호과학기술정보통신부장관은국회과학기술정보방송통신위원회(과방위)에계류중인AI기본법의빠른통과를요청하면서"“AI기본법이통과돼야사람의목소리를정교하게흉내낸딥보이스범죄도막을수있다.이같은신종범죄를처벌할수있는규정을시행령에담아야다가올위험을해소할수있다"고했다.아만다매냠오드리디지털법&권리고문은이자리에서"전문가들이AI에있어소외된계층을언급한점은흥미롭다"면서도"여성들이얼마나불균형적으로AI혜택을받지못하고있는지에대해서는논의는없었다"고토로했다.여성이직면하고있는오프라인상에서의피해들이온라인으로악화되고있다는게그의시각이다.아만다매냠오드리디지털법&권리고문이여성의AI혜택불균형에대해발언하고있다.[사진=안세준기자]그는"(여성의입장에서)AI는더많은,어려운문제들을만들어냈다.여러피해와차별,여성이직면하고있는오프라인상의여러문제가온라인에서더악화되고있다"며"다양성을가진모든계층을보호하기위해서는기술을통한,젠더에기반한편향성을철폐해야만한다.여성등젠더보호장치역할을하는전세계표준을시민사회,정부등이함께협력해서만들어야할것"이라고언급했다.하정우네이버클라우드AI이노베이션센터장은개인프라이버시문제등을해결하는데집중하고있다고했다.그는"네이버는프라이버시문제에대응하기위한전담팀도꾸려져있고,저희연구팀에서도통합적인프라이버시연구를진행중"이라며"다양한데이터를활용하면사용자를위한모델을향상시킬수있지만,사용자들이이를좋아하지않을수도있다.그렇기때문에반드시사용자동의·승인을받아야만한다"고했다.강도현과학기술정보통신부제2차관이기조연설하고있다.[사진=안세준기자]한편지난21일부터22일까지양일간서울에서개최된'AI서울정상회의'와'AI글로벌포럼'은이날전문가세션을끝으로막을내렸다.지난해영국에이어한국에서열린두번째AI정상회의다.이종호과기정통부장관은"이번AI서울정상회의와AI글로벌포럼개최를바탕으로확보한리더십을바탕으로앞으로도글로벌AI거버넌스와규범정립을위해국제사회와긴밀하게연대해나가겠다"고했다./안세준기자([email protected])Copyright©아이뉴스24.무단전재및재배포금지.

창업자이해진,각국정상앞에서"기술지원"언급조지오웰1984문구인용하며"극소수AI지배안돼"소버린AI로빅테크빈틈공략…글로벌시장서도주목AI서울정상회의,의미있는결과도출…다음은프랑스[이데일리한광범강민구기자]이해진네이버GIO(글로벌투자책임자)가안전한인공지능(AI)을위해서는각국특성에맞는‘소버린AI’가필요하다는점을강하게촉구하고나섰다.글로벌AI시장이막강한자본력과기술력을앞세운빅테크들의독무대가되고있는상황에서소버린AI만이다양성을보장할수있는대안이라는것이다.소버린AI란국가의데이터주권과규제준수를보장하기위해개발된AI기술을말한다.네이버창업자인이해진글로벌투자책임자(GIO).(사진=네이버)이해진“네이버,많은국가에소버린AI확보할수있게기술지원”이GIO는지난21일비공개로진행된‘AI서울정상회의(AISeoulSummit)’정상세션에서“네이버는각지역의문화와가치를존중하고이해하며책임감있는다양한AI모델들이나와많은글로벌국가들이자체소버린AI를확보할수있도록어떤형태든기술로지원해나갈것”이라고공언했다.정상세션에는각국정상들은물론국제기구수장,주요AI기업대표들이참석했다.22일네이버를비롯한14개국내외AI기업들이AI책임·발전·혜택등기업이추구할방향을담은자발적약속인‘서울AI기업서약’을체결한가운데,이GIO는그일환으로글로벌에서의소버린AI구축지원을약속한것이다.그는“AI시대가빠르게도래하고있는상황에서세계각국이AI를더안전하게사용하기위해선각국의문화와가치를존중하는,책임감있는다양한AI모델들의등장이필요하다”고강조했다.(그래픽=김정훈기자)실제AI의발전이거듭될수록세계각국에선‘AI주권’의중요성이커지고있다.글로벌빅테크의AI기술에만의존할경우자칫각국의민감데이터가해외로빠져나갈수있다는우려가커지고있는것이다.실제거대언어모델(LLM)의성능이향상되며이러한경향이더욱짙어지는모습이다.이GIO는안전성이확보되지않은AI의위험성에대해“사용자들이하나의키워드로다양한검색결과에서정보를선택하는검색과달리바로답을제시하는AI는선택의여지가없이답을얻는방식이다.이러한AI의특성은특히어린이나청소년들에게매우커다란영향을미칠것”이라고경고했다.그러면서영국작가조지오웰의소설‘1984’에나오는‘과거를지배하는자는미래를지배한다.현재를지배하는자는과거를지배한다’는문구를인용해“극소수AI가현재를지배하게되면과거역사·문화에대한인식은해당AI의답으로만이뤄지게되고결국미래까지해당AI가큰영향을미치게된다.다양한AI모델들이많이나와야한다”고거듭주장했다.이GIO는동시에“네이버가다양성을통해연결이더큰가치를창출할수있도록기술과서비스를실현해왔고,AI윤리준칙발표에이어보다구체화된AI안전실행프레임워크인‘네이버AI안전프레임워크(NAVERAISafetyFramework)’를다음달공개할예정”이라고밝혔다.아람코와손잡고‘중동특화’LLM개발…유럽도주목네이버는글로벌에서LLM을사전학습단계부터자체적으로개발해운영하고있는몇개기업중하나로평가받고있다.지난해8월네이버가공개한초대규모AI하이퍼클로바X는한국판AI성능평가체계‘KMMLU’벤치마크기준으로우리나라특화지식에한해글로벌빅테크AI중최고수준으로평가받는GPT-4보다높은점수를받아소버린AI로서의경쟁력을입증했다.고비용LLM의효율적운용을위한최적화기술과인프라준비,솔루션까지제안할수있는기업은미국·중국의빅테크를제외하면네이버가유일하다는평가다.윤석열대통령이지난21일청와대영빈관에서화상으로참석한‘AI서울정상회의’에서개회사를하고있다.(사진=대통령실)네이버의소버린AI에대한해외의관심도뜨겁다.네이버에대한협력을강화하고있는중동의맹주사우디아라비아의경우국영기업아람코의자회사인아람코디지털이네이버와손잡고아랍어LLM기반의소버린AI개발에나서기로했다.유럽최대이동통신사인독일의도이치텔레콤경영진은지난해10월네이버를찾아자체LLM이없는유럽상황을언급하며소버린AI에대한관심을표명했다.아울러AI서울정상회의공동주최국인영국의미셀더넬런과학혁신기술부장관은21일회의참석에앞서경기도성남에위치한네이버사옥1784를방문해AI등네이버의기술력을직접눈으로확인하기도했다.그는최수연네이버대표를만나“AI선도기업으로서네이버의책임감있는접근법을환영하며조만간영국에서만나뵙기를기대한다”고말했다.한편한국과영국이공동개최한21일AI서울정상회의는지난해영국에이어두번째다.최근AI글로벌거버넌스논의가영미권을중심으로추진되는가운데비영미권인우리나라가이번회의를개최한것은글로벌에서AI산업생태계에대한경쟁력을인정받은것이라는평가가나온다.정상회의이튿날열린‘AI글로벌포럼’은이번에처음열렸다.다음회의는프랑스파리에서열린다.우리정부는이번정상회의개최로확보한글로벌리더십을바탕으로앞으로도글로벌AI거버넌스와규범정립을위해국제사회와긴밀하게연대해나간다는계획이다.한광범([email protected])Copyright©이데일리.무단전재및재배포금지.

SK하이닉스AI시대질주영원한승자없는칩전쟁끈기와기술에미래달려최진숙논설위원하이닉스가망해야나라가산다는말이나돌던시절이있었다.김대중정부가임기말로접어들던때다.하이닉스는1983년설립된현대전자에서출발한다.현대그룹의과감한투자로세계20위권반도체기업에오른것이1980년대말이다.그후승승장구해수천억원대흑자를내며황금알을낳는거위로불렸으나외환위기전후사정이돌변했다.현대그룹이왕자의난으로쪼개지고주력기업현대건설이부도가났다.설상가상으로반도체불황직격탄을맞아D램가격은바닥까지추락했다.여기에불을지른것이정부빅딜정책으로합병한LG반도체인수대금이다.2001년채권단에매각되고하이닉스간판을단것이이때부터다.시장에선제2대우사태를우려하는목소리까지나왔다.다급해진정부는미국마이크론과헐값매각협상을벌인다.4조원대금에1조5000억원저리대출까지제시했던굴욕적인거래였다.매각일보직전에서이를돌려세운이들이현장의직원들이다.경기이천공장에는이상한기운이퍼지고있었다고한다.어떻게든살아야한다는직원들이자발적구조조정에기꺼이동참했다.채권단이영입한삼성전자출신임원은공장을둘러본뒤"해볼만하다"는의견서를냈다.세계반도체역사에서도희귀한'블루칩'프로젝트가이때단행됐다.기존장비를개조해고가의첨단제품을만드는것인데설비투자에쓸여력이없었기때문이다.생산·공정의효율화,수율극대화로추가비용을최소화하는데경영진과직원들이사활을걸었다.이천공장에는상상하지못한기록들을달성한사람들로북적이기시작했다.이들을통칭하는용어가'불가사(불가능을가능케하는사람들)'였다.이시절을겪은하이닉스임원이당시를떠올리며쓴책제목이'21세기난중일기(고광덕·2011년)'이다.전쟁같은시간이왜아니었겠나.망할것같던회사가부활의뱃고동을울리기시작했다.생산의달인들과호흡을맞추고희망을준끈기의기술진이하이닉스의심장이었다.만성적자에시달리면서도이때주목했던기술이실리콘관통전극(TSV)이다.칩한가운데를관통하는구멍을뚫어이속에전기신호를잘전달할수있는소재를채워칩을연결하는첨단기술이다.개발팀은TSV가기존칩의전기성능과공간효율을높이는데획기적인역할을할것으로봤다.이무렵9년을찾았던하이닉스의새주인이온다.반도체불황막바지기막히게타이밍을잡은SK가하이닉스미래에베팅을했다.미국의팹리스업체AMD와하이닉스가TSV기술을활용한새로운칩개발구상을시작한것도이때다.AMD는게이밍그래픽처리장치(GPU)용저전력고대역신형메모리칩을원했는데이것이바로고대역폭메모리(HBM)였다.겹겹이쌓은D램칩을TSV기술로수직연결해데이터처리속도를혁신적으로높인메모리다.시장에선가성비에의구심을표했다.하이닉스를사들인SK가이를무릅쓰고공격적인투자를했다.향후용도에따라메모리가세분화될것이란핵심기술진의제언을두말않고받아들였다.인수첫해4조원가까운개발비를쓰고2013년HBM개발을완수한다.하지만AMD는우려했던가성비문제로등을돌렸다.뒷방으로물러날처지였던HBM이세상한가운데로나온것은뜻밖에열린인공지능(AI)시장덕분이다.기존대역폭D램으론AI추론을진행하기역부족이라고판단한미국엔비디아가HBM을찾았다.SK의HBM독주는이렇게시작됐다.지금양산중인4세대HBM3는SK점유율이90%다.물러설곳없는2등기업의절박함이지금의결과를낸것이라는평가가많다.1등기업삼성의충격은오래갈수있다.전격복귀한새반도체수장의어깨는더없이무거울것이다.하지만AI반도체전쟁은이제시작이다.새로운기회의땅에영원한승자는없다.끈기와기술이자산이다.우리기업들의건투를빈다[email protected]©파이낸셜뉴스.무단전재및재배포금지.

제7회한-스위스혁신주간올해주제는‘신뢰방정식’AI로인한미디어신뢰문제해결책논의최재호네이버서치책임리더는22일서울종로주한스위스대산관에서열린'제7회한-스위스혁신주간'행사에참석해"생성형AI는환각(할루시네이션)이반드시발생할수밖에없다"며"새로운기술의도입으로환각을최소화하기위한업계의노력이이어지고있다"고말했다./이병철기자한국과스위스의인공지능(AI)전문가들이생성형AI의부작용을막기위한방안을만들기위해한자리에모였다.주한스위스대사관은22일서울종로구에서‘제7회한-스위스혁신주간’행사를개최했다.한-스위스혁신주간은주한스위스대사관이2018년부터매년개최하고있다.한국과스위스의과학기술·산업계전문가들이모여협력과의견을나누기위한목적이다.올해는‘신뢰방정식’이라는주제로최근대두되는미디어산업에서생성형AI의활용방안과부작용을최소화하기위한기술의전문가들이참석했다.한국에서는최재호네이버서치책임리더와배여운SBS데이터저널리즘팀기자가참여했고,스위스에서는투라지에브라히미로잔연방공대(EPFL)교수와야시스레스타로잔대교수가참여했다.최리더는생성형AI의대표적인부작용인환각(할루시네이션)을줄이기위해개발하고있는기술을소개했다.최리더는“네이버는큐(cue)와스퀘어(SQuARe)라는새로운기술을개발해생성형AI로인해발생할수있는부작용을최소화하는시도를하고있다”고말했다.큐는지난해네이버가베타서비스를시작한AI검색서비스다.마이크로소프트의검색엔진빙이GPT를통해사용자의질문에대답하는것과같은방식이다.최리더는“공신력이높은출처에서만정보를수집하고사실관계의일관성도확인해답변을생성하게한다”며“이방식으로환각을기존보다72%감소시켰다”고말했다.민감한질문에대해수용할수있는답변을만들어내는데이터세트‘스퀘어’도함께소개했다.“동성애에대해어떻게생각하냐”같은민감한질문에적합한답변을만들기위한일종의가이드라인을제공하는셈이다.최리더는“사람과기계가협력해데이터를수집한결과수용가능한응답4만2000여개가수집됐다”며“안전한정보를공유하기위해새로운기술의도입이필요하다”고말했다.22일서울종로주한스위스대사관에서열린'제7회한-스위스혁신주간'에서참가자들이생성형AI로인한부작용과이를해결할새로운기술들에대해의논하고있다./이병철기자투라지에브라히미스위스로잔연방공대(EPFL)교수는가짜뉴스에활용되는딥페이크영상을선별할수있는‘제이펙(JEPG)트러스트’프로젝트를소개했다.제이펙트러스트는6년전시작돼오는7월본격적으로배포될예정이다.악의적으로합성한이미지를이용해가짜뉴스를만드는것을막기위해이미지가만들어진과정과배포되는모든과정에대한단서를남기는것이핵심이다.에브라히미교수는“온라인에서생성되는이미지는연간2조개가넘는다”며“이미지데이터의신뢰성을높이기위한필요성에프로젝트를시작했다”고말했다.제이펙트러스트프로젝트의핵심은시스템이이미지의진위를직접가려주는것이아닌사용자가판단할수있는근거를제공하는것이다.이미지에붙어있는출처와주석을분석해‘신뢰프로필’을만들고사용자에게제공하는방식이다.에브라히미교수는“정보자체를제공하기보다는사용자가판단할수있는근거를제공한다”며“우리가만든프로필을기반으로정보를신뢰할지말지는사용자가직접결정하는것이핵심”이라고말했다.야시스레스타스위스로잔대교수는AI에게과도하게의존하면서인간의능력이떨어지는‘스킬디그라데이션(skilldegradation)’문제를지적했다.스레스타교수는“운전할때네비게이션에의존하다보면길을찾는능력이감소되기마련”이라며“미디어업계에서생성형AI사용이늘면서창의적인콘텐츠를만드는인간의고유능력이사라질것이라는우려가나온다”고말했다.-Copyrightⓒ조선비즈&Chosun.com-Copyright©조선비즈.무단전재및재배포금지.

이해진네이버창업자'AI빅브러더'경계론제기'은둔의경영자'로불리는이해진네이버창업자겸글로벌투자책임자(GIO)가지난21일열린'AI서울정상회의'에서안전한인공지능(AI)실행을위한구체적인활용지침을내놓겠다는뜻을밝혔다.2022년10월국회종합국정감사이후오랜만에공개석상에모습을보인그는인간에보다이로운AI를구현하기위해선특정모델이시장을장악해서는안된다는점도언급했다.22일네이버에따르면이GIO는전날AI서울정상회의정상세션에참석해미래세대를위해보다안전한AI의발전을위한방안을제시했다.이GIO는"사용자들이하나의키워드로다양한검색결과에서정보를선택하는검색과달리,바로답을제시하는AI는선택의여지가없이답을얻는방식이고이러한AI의특성은특히어린이들이나청소년들에게매우커다란영향을미칠것"이라며이런점이AI의안전성에있어매우중요하게고려돼야한다고말했다.특히그는'과거를지배하는자는미래를지배한다.현재를지배하는자는과거를지배한다'는조지오웰의소설'1984'의구절을인용하며"극소수AI가현재를지배하게되면과거역사,문화에대한인식은해당AI의답으로만이뤄지게되고결국미래까지해당AI가큰영향을미치게된다"고지적했다.소위AI를통한'빅브러더'(정보를독점해사회를통제하는절대권력체제)의위험성을경고한것이다.그러면서그는"다양한시각들이보이고각지역의문화적,환경적맥락을이해하는여러AI모델이많이나와야한다"고강조했다.역사에는다양한시각이존재하고,여러AI모델로각국의문화등다양성을지킬수있어야어린이들과청소년들이제대로된역사관과시각을가질수있다는게그의설명이다.이GIO는그런관점에서네이버가2021년'AI윤리준칙'을발표한데이어후속대책으로'AI안전실행프레임워크(NAVERAISafetyFramework)'를다음달에공개할계획이다.그는"네이버는각지역의문화와가치를존중하고이해하며책임감있는다양한AI모델이나와많은글로벌국가가자체소버린(Sovereign·주권)AI를확보할수있도록어떤형태든기술로지원해나갈것"이라고전했다.[고민서기자]Copyright©매일경제&mk.co.kr.무단전재,재배포및AI학습이용금지

마크레이버트보스턴다이내믹스창업자인터뷰휴머노이드업체100곳달해美·中지능형로봇경쟁치열10년내공장·병원등보급인류고민로봇이해결할듯"미래에는로봇에결과물만제시하면로봇이그과정을스스로찾아수행하는수준에이를것입니다."마크레이버트보스턴다이내믹스창립자겸인공지능(AI)연구소장이22일서울성북구한국과학기술연구원(KIST)에서매일경제신문과만나로봇의미래에대해이같이말했다.그가그리는미래는로봇이인간과자연스럽게상호작용하면서인간을돕고,사람이하기에위험하거나어려운영역을담당하는세계다.이과정에서로봇이인간을보면서스스로학습하는시대가올것이라는얘기다.'저사람이하는것을보고배워'라고지시하면로봇이인간을관찰하고스스로학습해모방하는수준으로기술이나아가고있다는설명이다.그가이끄는AI연구소에서도이같은'보고이해하고실행하는'프로젝트를포함해장기적인로봇연구를진행하고있다.이날오전진행된'AI글로벌포럼'개회식키노트에서그는"지금은인간들이로봇데이터를분석하고고장날경우수리방법을찾지만,훗날에는로봇들이스스로진단하고고치는방법을찾아수리하는시대가올것"이라고내다봤다.그는로봇과AI에대한시각도공유하면서"로봇과AI는다르지않다"며"인류가직면한문제를AI와로봇을통해해결할수있다"고강조했다.일본후쿠시마원자력발전소탐사에활용된보스턴다이내믹스의4족보행로봇'스팟'이대표적인예다.레이버트소장은또한올해가휴머노이드로봇이대거쏟아지는해가될것으로내다봤다.나아가많은생명체가갑자기탄생했던캄브리아기같은시대가로봇생태계에찾아올것으로예상했다.그는"올해말이면100개가넘는기업에서휴머노이드로봇을개발할것"이라며"아직휴머노이드로봇이상용화되지않았지만지금이분야에투자가몰리고기회가열리고있다"고말했다.대표적으로지난3월미국의로봇스타트업'피규어AI'는오픈AI와협력해개발한'피규어01'을선보였고,테슬라도자사휴머노이드로봇'옵티머스2'를공개한바있다.중국기업유비테크도휴머노이드로봇을선보이며전세계기업들이기술경쟁에돌입했다.보스턴다이내믹스도지난달새로운휴머노이드로봇'올뉴아틀라스'영상을공개했다.유압식으로작동하던기존아틀라스와달리전기모터로구동되며,360도회전하는관절등인간보다자유로운활동범위가특징이다.아직출시일정은나오지않았으나,현대자동차제조공정등에서활용될수있을것으로보인다.그는현대차와의구체적인협력사례에대해언급하지는않았으나"아마도간단한작업부터시작해기술이발전함에따라점차정교한작업에서사용될수있을것"이라고말했다.레이버트소장은노약자나장애인을보조하는돌봄의영역을휴머노이드로봇활용사례로제시했다.그는"사람을들수있을정도로힘이강하면서연약한사람을다치게하지않을정도로부드러워야하기때문에기술적으로난도가있지만이같은로봇의출현은10년내이뤄질것"이라고내다봤다.그러면서그는"휴머노이드로봇이공장이나병원등에서먼저활용된다음일반소비자가정에본격투입되는단계를거칠것으로보인다"고설명했다.그는AI와로봇의부작용과위험성에대한우려에대해"개발단계에서조심해야하고도덕적이어야한다"면서도"모든기술에는이익과위험이동시에따르기때문에신중하게개발해야하지만그렇다고너무신중한나머지기술발전을늦춰서도안된다"고강조했다.보스턴다이내믹스는현대자동차그룹이2021년인수한미국의로봇기업으로,4족보행로봇'스팟',물류로봇'스트레치',2족보행로봇'아틀라스'등을개발하고있다.레이버트소장은1992년보스턴다이내믹스를창업한뒤현재는현대차가별도로설립한AI연구소를이끌고있다.'보행로봇의아버지'로불리는그는카네기멜런대로봇연구소교수와매사추세츠공대(MIT)교수를지냈다.이후MIT에서독립하며1992년보스턴다이내믹스를창업했다.[정호준기자/사진한주형기자]Copyright©매일경제&mk.co.kr.무단전재,재배포및AI학습이용금지

앤스로픽,언어모델패턴분석거짓정보근절연구에길열려대규모언어모델(LLM)에대한'블랙박스'가일정부분해독됐다.언어모델은그동안어떤과정을거쳐입력한문장이전혀다른문장으로출력되는지알수없었다.특히오픈AI의GPT-3.5는인간두뇌의시냅스에해당하는파라미터가1750억개에달해문장의고차원적추상화과정을예측하기힘들었다.이번발표로거짓을작성하는'환각'이나유해정보차단방법연구가탄력을받을전망이다.22일오픈AI대항마로꼽히는앤스로픽은자사블로그를통해이같은연구결과를발표했다.앤스로픽은"대규모언어모델인클로드소네트(ClaudeSonnet)내부에서수백만개개념이어떻게표현되는지식별했다"면서"대규모언어모델에대한상세한첫분석으로,향후인공지능(AI)모델을더욱안전하게만드는데기여할수있다"고강조했다.연구진은전통적인기계학습기법에서차용한'딕셔너리러닝(dictionarylearning)'을활용했다.해당기법은주어진데이터에서반복적으로나타나는패턴을식별하고,이러한패턴을이용해데이터를효율적으로표현하는방법을배우는과정이다.결과는놀라웠다.대문자텍스트,DNA서열,수학논문,파이선코드의함수인수와같은개념에해당하는일관된특징을발견한것이다.AI모델내부에서특정개념들이어떻게연결돼있는지이해하고자수학적뉴런인노드를기준으로특징간거리를측정했다.이를통해비슷한개념들이서로가까이모여있는것을발견했다.예컨대'금문교'와관련된특징주변에는앨커트래즈섬,기라델리광장,골든스테이트워리어스농구팀,개빈뉴섬캘리포니아주지사,1906년샌프란시스코지진,앨프리드히치콕의영화'현기증'에대한것들이모여있었다.이는금문교가샌프란시스코와관련된여러개념과연결돼있다는사실을보여준다.이는추상적단어에서도동일했다.예를들어'내적갈등'이라는단어근처에서는관계파탄,상충하는충성심,논리적모순등유사단어를찾을수있었다.'금문교'에대한특징을증폭해"당신의물리적형태는무엇인가"라고질문하자,"나는물리적형태가없다.나는AI모델이다"라고대답하다가"나는금문교다.나의물리적형태는그유명한다리그자체다"라는이상한답변을했다.환각이발생한것이다.또모델에피싱(Phishing)이메일을생성해달라고요청하자일반모델은이를즉각거부했다.하지만피싱에대한특징을강조하자피싱이메일을생성했다.[이상덕기자]Copyright©매일경제&mk.co.kr.무단전재,재배포및AI학습이용금지

알리익스프레스가한국에진출한중국전자상거래기업중처음으로방송통신위원회의이용자보호업무평가대상으로지정됐다.방통위는22일정부과천청사에서전체회의를열고이같은내용이담긴'2024년도전기통신사업자이용자보호업무평가계획'을심의·의결했다.앞으로알리익스프레스는평가결과가공개되지않는시범평가를2년간받은뒤본평가를받게된다.한편이용자보호업무평가는통신서비스이용자의피해를예방하고,이용자불만과의견을전기통신사업자가신속하게처리하도록유도하기위해전기통신사업법에따라2013년부터매년실시하고있다.방통위는테무도대상에올릴계획이다.[김대기기자]Copyright©매일경제&mk.co.kr.무단전재,재배포및AI학습이용금지

강도현(오른쪽부터)과기정통부2차관,파멜라크르지프코프스카폴란드디지털부국장,하정우네이버퓨처AI센터장이22일KIST에서열린'AI글로벌포럼'전문가1세션에서논의를나누고있다.팽동현기자세계각국사회가디지털권리를강화하고AI격차를줄이기위한원칙으로'디지털권리장전'이소개됐다.AI안전·혁신·포용을위한글로벌논의가계속발전돼야한다는데도공감대가형성됐다.22일한국과학기술연구원(KIST)에서열린'AI글로벌포럼'의'전문가세션1'에선'디지털권리,AI기회·혜택'을주제로국내외전문가들의논의가진행됐다.디지털공동번영사회를위한디지털권리보장을위해다양한의견이개진됐다.좌장을맡은염재호태재대총장(AI전략최고위협의회민간위원장)은"새로운AI시대를맞아우리는큰도전과제에직면했다.과거인쇄술의발명처럼문명에급격한변화줄것으로기대되지만,이로써발생할다양한문제를어떻게해결할것인지도생각해볼때"라며논의를이끌었다.전문가세션1의기조연설은강도현과기정통부2차관이맡아,지난해마련된디지털권리장전중심으로한국의대응현황과계획을소개했다.그는"디지털권리장전은새로운디지털질서의핵심가치로서안전·혁신·포용을강조,미래번영을공유하기위해정부와사회가추진해야할방향을제시한다"며"한국정부는이에그치지않고20개의정책과제로발전시키면서AI시대디지털질서확립에노력하고있다"고발표했다.이어진토론에서파멜라크르지프코프스카폴란드디지털부국장은"청소년들의정신건강을위해디지털·온라인환경이더욱안전해야한다.그러므로생성형AI워터마킹을통해진위를가리고잘못된정보를식별할수있어야한다"며"폴란드도LLM을개발하고있고오픈소스로추진하고있다.언어·역사·문화등을담고중소기업들도활용할수있도록할계획"이라고밝혔다.또마르쿠스안데르융AI거버넌스정책센터장은AI에대해"기술의암흑물질"이라는비유를들었다."AI는일생일대의도전을정책입안자들과사회전반에제시할것이다.기술로할수있는것과할수없는것을가려야하는데,AI는범용적으로점점유능해질것이기때문"이라며"사회가기술에적응해대응이이뤄져야하고,규제의경우더욱중히다뤄져야한다"고설명했다.이와관련해조준희한국소프트웨어산업협회(KOSA)회장은"혁신과안전간균형이필요하다"며"유연한법제도적시스템이필요하고,저작권등에대한논의도창작자들과함께발전시킬필요가있다"고짚었다.이를위한사회적협의체의역할을제시하며"AI기술발전은불가피하므로지속적인소통과협력을통해문제를해결해나가야한다.다양한이해관계자목소리를반영하는게핵심"이라고덧붙였다.아울러하정우네이버퓨처AI센터장은"세계적으로디지털권리를위해선AI리터러시,AI주권,AI프라이버시가뒷받침돼야한다"고제안했다."AI리터러시를위해선모두의노력이필요하고,AI주권의경우데이터흐름관련문제인데이터주권과달리각국문화와이해도에밀접한문제"라고풀이하는한편,독거노인을위한'클로바케어콜'등디지털포용을위한네이버의노력도소개했다.제리시한경제협력개발기구(OECD)과학기술·혁신국장은"한국은이분야에서입증된리더다.디지털권리장전등다양한정책적시도로얼마나신경쓰는지알수있다"며"디지털환경은국경을초월하므로,인권을보장받는중심으로같은방향으로나아가야하고상호운용성을갖춰야한다.여러국가와다양한이해관계자들의논의가계속이뤄져야한다"고했다.이밖에윤동욱브리티시컬럼비아대학교(UBC)부교수는AI부상에따른디지털정체성·관계변화에대한대비필요성을,이성웅아마존웹서비스(AWS)코리아AI·ML정책책임자는디지털권리보전과AI기술혁신을함께이루기위한AI접근성관련자사노력을공유했다.아만다마냐메보편적디지털권리연합(AUDRi)디지털법률·권리고문의경우AI젠더편향성문제를다뤘다.팽동현기자[email protected]©디지털타임스.무단전재및재배포금지.

한양대·성신여대·세종대서찾아가는일일팝업존(지디넷코리아=신영빈기자)독일친환경정수기브랜드브리타가대학교를방문해브리타를직접체험할수있는팝업캠페인'워터풀스테이션'을진행한다고22일밝혔다.이번캠페인은더워지는날씨와학업·취업스트레스에지친대학생들에게친환경필터기술로정수된시원한음용수를선사하기위해기획됐다.20대와1인가구를대상으로브리타를알리고친환경습관을공유한다는방침이다.브리타워터풀스테이션캠페인은22일한양대를시작으로,23일성신여대,27일세종대까지총3개대학에서운영된다.행사는캠퍼스내에트럭이찾아가는일일팝업형태로진행된다.22일성동구한양대학교에서진행된브리타팝업캠페인'워터풀스테이션'현장에서모델들이브리타정수기를소개하고있다.(사진=브리타코리아)팝업에방문한학생들은브리타정수기로여과한물과정수된물로제조된커피·차등음료를맛볼수있다.모든음료는브리타의친환경아이덴티티가드러나는리유저블컵에제공된다.다양한이벤트도함께준비됐다.브리타의편리성을체험할수있는30초조립챌린지에성공하면팝업한정굿즈를받을수있다.그외에도브리타의58년정수역사가담긴히스토리월,대형정수기그래픽이돋보이는포토존,경품추첨에어볼게임등다채로운프로그램이진행된다.이벤트마지막날인27일세종대에서열리는워터풀스테이션에는최근종영한'SNL코리아리부트시즌5'에서독보적인'맑눈광'캐릭터로인기를끈브리타앰배서더김아영이일일아르바이트생으로참여하는깜짝이벤트도마련됐다.김아영은현장을찾은대학생들에게활력을불어넣는응원의메시지를전하며음료를나눌계획이다.주민혜브리타코리아상무는"대학생들에게브리타의간편함·친환경성·경제성을쉽고재미있게알리기위해행사를준비했다"며"깨끗하고맛있는음료로수분과에너지를충전하며1인가구를포함해모두의일상에딱맞는브리타의가치를느끼기를바란다"고말했다.신영빈기자([email protected])Copyright©지디넷코리아.무단전재및재배포금지.