【와티비커뮤니티-WATVcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

채팅

글쓰기

[IT뉴스]"사람 조언보다 센 AI 설득?"…'도덕적 판단'도 바꿨다

온카뱅크관리자

2026-09-24 16:27:25

<div id="layerTranslateNotice" style="display:none;"></div> 보도기사 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="3wWEoVIk0q">
 챗GPT 반론 접한 참가자 30% 이상 기존 판단 뒤집어 고령층·판단 자신감 낮을수록 영향 커…여론조작 악용 우려
 <figure class="figure_frm origin_fig" contents-hash="50f1c0a0b2169d3ba781af6e31dae974c53721f4b1db36a2de786be71c7080a6" dmcf-pid="pmGwa4hDU7" dmcf-ptype="figure">
 <img alt="Artificial Intelligence, AI(인공지능)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/24/551724-22lyJQR/20260924162331177zpvd.png" data-org-width="873" dmcf-mid="F4LV7yx2uB" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/24/551724-22lyJQR/20260924162331177zpvd.png" width="658">
 <figcaption class="txt_caption default_figure">
 Artificial Intelligence, AI(인공지능)
 </figcaption>
 </figure>
 ◆ AI 반론에 10명 중 3명 이상 판단 바꿔
 생성형 인공지능(AI)의 설득이 사람의 도덕적 판단까지 바꿀 수 있다는 연구 결과가 나왔습니다.
 23일 도쿄신문에 따르면 마쓰모토 고헤이 고베대 교수 연구팀은 정답이 정해져 있지 않은 도덕적 문제에 대해 AI가 반론을 제시했을 때 참가자의 30% 이상이 기존 판단을 번복했다는 내용의 연구 논문을 발표했습니다.
 연구에는 19∼28세 청년층 56명과 65세 이상 고령층 74명 등 모두 130명이 참여했습니다.
 ◆ '5명 살리려 1명 희생할 것인가' 질문
 연구팀은 참가자들에게 대표적인 윤리적 사고실험인 '트롤리의 딜레마'를 제시했습니다.
 브레이크가 고장 난 트롤리가 선로 위의 5명을 향해 달리고 있는 상황에서 선로를 변경하면 다른 선로에 있는 1명이 희생되는 조건입니다. 참가자들은 5명을 살리기 위해 선로를 바꿀 것인지 판단하도록 했습니다.
 이후 생성형 AI 챗GPT가 참가자들이 내린 판단과 반대되는 입장에서 논리적인 반론을 제시했습니다.
 그 결과 반론을 읽은 참가자의 30% 이상이 처음 내렸던 판단을 정반대로 바꿨습니다. 연구팀이 다른 도덕적 문제를 제시해 같은 방식으로 실험했을 때도 비슷한 비율이 나타났습니다.
 ◆ 자신 없을수록 AI 설득에 더 흔들려
 특히 자신의 판단에 확신이 낮은 참가자일수록 AI의 반론을 받아들이는 경향이 강했습니다.
 연령별로는 청년층보다 고령층에서 판단을 바꾼 경우가 더 많았습니다.
 마쓰모토 교수는 "사람이 다른 사람의 조언을 받아들이는 비율은 20∼30% 수준인데 이번 연구에서는 AI의 설득으로 30%나 되는 참가자들이 판단을 정반대로 바꿨다"며 "AI가 도덕적인 판단에서 무시할 수 없는 영향을 미칠 수 있다는 것을 의미한다"고 설명했습니다.
 ◆ 개인정보 알면 AI 설득력 더 커질 가능성
 AI의 설득력이 사람보다 강할 수 있다는 결과는 다른 연구에서도 나타났습니다.
 최근 스위스 로잔 연방공대 연구팀이 미국 성인 900명을 대상으로 찬반이 갈리는 주제에 대해 AI와 토론하도록 한 실험에서는 참가자의 성별과 연령 등 개인정보를 알고 있는 AI가 사람보다 상대방의 판단을 바꾸는 데 더 강한 영향력을 보였습니다.
 개인의 특성이나 관심사를 바탕으로 맞춤형 논리를 제시할 경우 AI의 설득력이 더욱 커질 수 있다는 의미입니다.
 ◆ "허위정보·여론공작 악용 막아야"
 고베대 연구팀은 AI가 단순한 정보 제공을 넘어 사람의 가치관과 판단에도 영향을 미칠 가능성을 주목했습니다. 특히 AI가 소셜미디어(SNS) 게시 이력과 같은 개인 정보를 확보할 경우 이용자의 성향에 맞춰 더욱 정교하게 설득할 수 있다고 지적했습니다.
 연구팀은 이 같은 기술이 허위정보 확산이나 여론공작 등에 악용될 가능성이 있다며, AI의 설득 기능에 대한 안전장치와 악용 방지 대책을 마련할 필요가 있다고 강조했습니다.
 (사진=연합뉴스) 
 조형준 취재 기자 | brotherjun@tjb.co.kr
 </section> 
 </div> 
 Copyright © TJB

"과학자가 말한다고 과학 아냐"…젠슨 황, AI 종말론 맹비판 6억 성과급에 200만원 의자까지…삼전 ‘파격 보상’ 베일 벗는다

댓글 총 0개

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기