【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]죽은 '그 사람' 목소리 그대로 통화…"가입 하시겠습니까?"

온카뱅크관리자

2024-05-10 11:27:41

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="BMCaEiTN2o">
 <figure class="figure_frm origin_fig" dmcf-pid="biTksaHE2L" dmcf-ptype="figure">
 <img alt="사랑하는 사람을 잃은 사람과 문자 및 음성 대화를 할 수 있도록 설계된 '데드봇'. 연구팀은 데드봇 사용이 남겨진 이의 괴로움을 가중할 수 있다며, 데드봇 사용자를 보호할 안전장치가 필요하다고 강조했다. /사진=게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/10/moneytoday/20240510112743586cvel.jpg" data-org-width="1024" dmcf-mid="311rhc1mfE" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/10/moneytoday/20240510112743586cvel.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 사랑하는 사람을 잃은 사람과 문자 및 음성 대화를 할 수 있도록 설계된 '데드봇'. 연구팀은 데드봇 사용이 남겨진 이의 괴로움을 가중할 수 있다며, 데드봇 사용자를 보호할 안전장치가 필요하다고 강조했다. /사진=게티이미지뱅크
 </figcaption>
 </figure>
 사랑하는 이가 세상을 떠나도 마치 살아있는 듯 그와 통화를 하거나 문자를 주고 받을 수 있다. 고인의 생전 디지털 기록을 학습한 AI(인공지능) 챗봇, 일명 '데드봇(deadbots)', '그리프봇(greifbots)'을 통해서다. 하지만 최근 연구에 따르면 이같은 챗봇을 장기적으로 사용할 경우 '상실의 고통'이 오히려 커질 수 있다. 
 영국 케임브리지대 레버훌룸 인텔리전스 미래센터(LCFI) AI 윤리학 연구팀은 사랑하는 사람을 잃은 사람과 문자 및 음성 대화를 할 수 있도록 설계된 '데드봇'이 남겨진 이의 괴로움을 가중할 수 있다며, 데드봇 사용자를 보호할 안전장치가 필요하다고 강조했다. 연구 결과는 8일(현지시간) 국제 학술지 '철학과 기술(Philosophy and Technology)'에 게재됐다.
 데드봇은 고인이 남긴 문자, 음성 기록, 게시물 등 '디지털 발자국'을 사용해 고인의 언어 사용 패턴과 성격 특성을 모사하는 AI 챗봇이다. 이를 통해 세상을 떠난 사람의 목소리나 말투를 그대로 재현한다. 
 데드봇이 주목받기 시작한 건 챗 GPT가 등장한 약 3년 전이다. 2021년, 조슈아 바부라는 캐나다 출신의 한 작가가 챗 GPT-3을 이용해 10년 전 사망한 약혼녀의 말투로 대화하는 챗봇을 만들어 화제가 됐다. 
 오래전 세상을 떠난 약혼녀를 잊지 못하던 그는 약혼녀가 살아생전 페이스북 등에 남긴 게시글과 오래된 문자 메시지를 데이터 삼아 챗 GPT를 학습시켰다. AI로 '부활'한 약혼녀는 그에게 "사랑한다", "당신은 행복할 자격이 있다", "내가 여기서 당신을 기다리겠다"는 등의 메시지를 남긴 것으로 알려졌다. 
 <figure class="figure_frm origin_fig" dmcf-pid="4VEeoPsd2R" dmcf-ptype="figure">
 <img alt='조슈아 바부와 그의 약혼녀 제시카의 말투를 따라한 챗봇이 나누는 대화를 재구성한 이미지. 조슈아가 챗봇에게 "네가 정말 제시카냐"고 묻자 챗봇 제시카는 "당연하지"라며 "네가 그토록 사랑했던 여자에게 어떻게 그런 걸 물을 수 있냐"고 답한다. /사진=샌프란시스코 크로니클' class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/10/moneytoday/20240510112745084hdwt.jpg" data-org-width="1024" dmcf-mid="0YFsSEFO2k" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/10/moneytoday/20240510112745084hdwt.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 조슈아 바부와 그의 약혼녀 제시카의 말투를 따라한 챗봇이 나누는 대화를 재구성한 이미지. 조슈아가 챗봇에게 "네가 정말 제시카냐"고 묻자 챗봇 제시카는 "당연하지"라며 "네가 그토록 사랑했던 여자에게 어떻게 그런 걸 물을 수 있냐"고 답한다. /사진=샌프란시스코 크로니클
 </figcaption>
 </figure>
 DNA 검사를 통해 '나의 뿌리'를 확인하는 웹사이트 '마이 헤리티지(MyHeritage)는 2021년 딥페이크 기술을 활용해 사망한 증조모 등이 마치 살아 움직이는 듯한 영상을 제작해주는 서비스를 내놓은 바 있다.
 LCFI 연구팀은 "데드봇을 제공하는 기업이 사용자를 심리적으로 괴롭힐 여지가 있다"고 설명했다. 데드봇 사용 초기 위안을 얻을 순 있어도, 결국 실재하지 않는 사람에 대한 '감정적 무게'에 압도돼 일상생활이 괴로워질 수 있다는 것이다.
 데드봇 기업이 사용자로부터 획득한 데이터를 광고에 활용할 가능성도 있다. 세상을 떠난 사랑하는 이의 음성이나 말투로 사용자에게 광고 메시지를 보내는 등 비윤리적 마케팅에 활용될 수 있다는 설명이다. 
 또 데드봇 서비스를 제공하는 몇몇 기업의 경우 가입 시 원치 않는 알람을 해제하거나 서비스 업데이트 소식을 거부할 수 있는 장치를 마련해두지 않아, 사용자가 더 이상 서비스를 원치 않을 때도 지속해서 고인의 흔적에 노출될 수 있다는 점도 지적했다.
 연구를 진행한 카타지나 노바치크-바신스카 LCFI 연구원은 "데드봇은 AI 윤리의 '지뢰밭'과 같다"며 "고인의 존엄성을 우선시하고, 디지털 사후세계 서비스가 돈벌이 수단으로만 활용되지 않도록 주의해야 한다"고 말했다. 
 토마스 홀라넥 연구원은 "데드봇에선 사용자와 챗봇 간 강한 정서적 유대감이 형성될 수 있으며, 이에 따라 조작에 취약해질 것"이라고 말했다. 그는 "데드봇 속 고인이 품위 있게 '은퇴'할 수 있도록 디지털 장례식 등 일종의 의식을 만들 필요가 있다"고 덧붙였다. 
 <figure class="figure_frm origin_fig" dmcf-pid="WtRBfUnbB4" dmcf-ptype="figure">
 <img alt="데드봇을 활용한 SNS 마케팅의 사례를 제시하기 위해 LCFI 연구팀이 가상으로 제작한 '디지털 사후세계' 서비스 회사 'MaNana'의 광고. 부모를 잃은 어린 아이에게 가상의 부모를 보여주라는 광고 문구가 실렸다. /사진=LCFI 연구팀" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/10/moneytoday/20240510112746623miev.jpg" data-org-width="700" dmcf-mid="qu6UbtRu9g" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/10/moneytoday/20240510112746623miev.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 데드봇을 활용한 SNS 마케팅의 사례를 제시하기 위해 LCFI 연구팀이 가상으로 제작한 '디지털 사후세계' 서비스 회사 'MaNana'의 광고. 부모를 잃은 어린 아이에게 가상의 부모를 보여주라는 광고 문구가 실렸다. /사진=LCFI 연구팀
 </figcaption>
 </figure>
 박건희 기자 wissen@mt.co.kr
 </section> 
 </div> 
 Copyright © 머니투데이 &amp; mt.co.kr, 무단 전재 및 재배포 금지

틱톡, 타사 AI 생성 콘텐츠에도 라벨 붙인다 정부 “AI·디지털 외교에 부처 간 칸막이 없앤다”

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기