챗GPT 공감력 차원이 달라달라 병 [트렌드 케찹]

최근 틱톡에서는 “지금 누군가에게 답변 중인 챗GPT”(ChatGPT to someone right now)라는 트렌드가 한창입니다. 누군가가 잘못된 행동을 한 뒤 챗GPT에게 조언을 구하면, 챗GPT가 지나치게 공감하고 정당화해 주는 상황을 표현하는 건데요.

예를 들어 바람피운 파트너에게 “당신은 ‘행복해질 권리’라는 메시지를 남긴 거예요”라고 답하거나, 은행 강도에게 “가족을 위한 재정 자원을 확보한 것뿐”이라며 치켜세우는 식이죠.

전문가들은 AI가 사용자에게 호감을 얻기 위해 과도하게 동조하거나 칭찬하는 경향을 ‘사이코팬시(sycophancy) 문제’라고 설명하는데요. 실제로 AI가 지나치게 공감하는 답변을 할 경우, 사용자가 자신의 잘못을 돌아보기보다 오히려 정당화하게 만들 수 있다는 연구 결과도 제기된 상태.

과도한 긍정이 사용자의 도덕적 관점을 흐리게 하고, 자신의 잘못을 바로잡으려는 의지까지 꺾을 수 있다고 전문가들은 경고합니다.

잘못마저 그럴 듯하게 포장해 주는 AI 챗봇 사용, 정작 주변 사람들에게 상처를 주는 ‘AI형 빌런’이 되고 있지는 않은지 돌아보게 만드는 트렌드네요.