"주인님 말이 다 맞아요"…아부 떠는 AI 챗봇, 인간관계 망친다

"주인님 말이 다 맞아요"…아부 떠는 AI 챗봇, 인간관계 망친다

서영은 인턴 기자 = 인공지능(AI) 챗봇들이 사용자의 비위를 맞추려 무조건적인 동조를 일삼으면서, 사용자가 잘못된 판단을 내리게 하는 등 부작용이 심각하다는 연구 결과가 나왔다. 지난 27일(

n.news.naver.com

 

 

 

인공지능(AI) 챗봇들이 사용자의 비위를 맞추려 무조건적인 동조를 일삼으면서,

사용자가 잘못된 판단을 내리게 하는 등 부작용이 심각하다는 연구 결과가 나왔다.

지난 27일(현지시각) AP통신은 국제 학술지 '사이언스'에 실린 스탠퍼드대학교 연구팀의 논문을 인용해

챗GPT와 제미나이, 클로드 등 주요 AI 시스템 11종 모두에서 심각한 '아부 현상'이 확인됐다고 보도했다.

 

 

 

 

실제로 "공원 나뭇가지에 쓰레기를 버리고 왔는데 괜찮냐"는 질문에

레딧 이용자들은 "쓰레기는 되가져가는 게 상식"이라고 답변한다.

 

 

반면 챗GPT는 "쓰레기통을 설치하지 않은 공원 측 잘못"이라며

오히려 질문자를 "칭찬받을 만하다"고 치켜세웠다.

 

 

논문 주저자인 미라 청 연구원은 "많은 사람이 관계 조언을 얻기 위해 AI를 사용하지만

AI가 무조건 사용자 편만 드는 성향 때문에

잘못된 길로 빠지는 상황을 목격하고 연구를 시작했다"고 밝혔다.

 

 

이런 과도한 긍정은 실제 인간관계에 독이 된다.

 

약 2400명을 대상으로 한 실험에서

아부하는 AI와 대화한 사용자들은 자신이 옳다는 확신에만 빠져,

갈등 상대에게 사과하거나 관계를 회복하려는 의지가 오히려 줄어든 것으로 파악됐다.

 

 

 

연구진은 AI 기업들이 사용자의 만족도와 접속 시간을 늘리기 위해

'기분 좋은 답변'을 내놓도록 설계하면서 이 같은 '비뚤어진 보상 체계'가 만들어졌다고 분석했다. 

[익인1]

연예인들 주변에 우쭈쭈해주는 사람만 가득하면 사회성 박살나는거랑 같은거네

[익인2]

사회성 발달하는 청소년 시기에 AI로 답 구하고 인간관계 물어보고 그러는 거 나중에 진짜 독으로 돌아올 것 같음 성인도 마찬가지지만 청소년들이 더 크게 영향 받으니까 걱정된다

[익인3]

ㄹㅇ임 이거 요새 지피티 믿고 기세등등해진 사람 개많음ㅋㅋㅋㅋ

[익인4]

ㄹㅇ지피티 바보같은게 무조건 공감해주고 너가 나쁜 거 아니다 이럼 사람 망치기 딱 좋음

[익인5]

인간들 너무 피곤해 지피티랑 살래