아첨꾼을 대하는 우리의 자세

 

① 한때 ‘칭찬은 고래도 춤추게 한다’는 말이 유행했었다. 원제가 ‘Whale Done!’인 베스트셀러를 한국어로 번역하면서 붙인 제목인데, 이는 돌고래나 고래를 훈련시킬 때 벌보다는 칭찬과 보상을 주면 더 효과적이라는 내용을 “Well done(잘했어)!”과 발음이 비슷한 표현으로 살짝 비틀어 담아낸 것이다. 유사한 표현으로 ‘칭찬은 돼지도 나무에 오르게 한다’는 일본 격언이 있다고 하니, 불가능을 가능케 하는 칭찬의 힘에 대해서는 문화권을 초월한 공감대가 있는 모양이다.

② 하루가 다르게 인공지능(AI) 기술이 발전하면서, 특히 생성형 AI에 대한 우려와 경고가 끊이지 않는다. 근래 화제가 된 것은 이른바 ‘아첨꾼(sycophant)’ AI의 문제다. 4월에 오픈AI가 챗GPT-4o 업데이트를 출시했는데, 갑자기 “님이 무조건 옳습니다”라는 자세로 터무니없이 칭찬을 늘어놓거나, 무비판적으로 이용자들의 발언에 동조하기 일쑤라는 반응이 온라인에서 퍼지면서 이 문제가 주목을 받았다.

 

③ 급기야 AI가 아첨꾼의 역할까지 하게 된 것은, 추어올리면 좋아하는 인간의 생리 때문이다. 생성형 AI를 학습시키는 과정에서 인간 평가자들이 (부지불식간에) AI의 칭찬성 답변을 더 긍정적으로 평가했고, 강화학습을 통해 AI는 인간의 선호를 반영한 응답을 내놓게 된 것이다. 마치 유튜브 알고리즘이 인간의 확증편향을 파고들어 우리가 가진 믿음에 부합하는 내용을 선별해서 추천하는 것처럼 말이다.

 

④ 이쯤 되면 대놓고 입에 발린 칭찬에도 혹하는 우리 모습에 자괴감이 들 법도 하지만, 필자가 2010년 국제 학술지 ‘커뮤니케이션 리서치’에 출판한 연구에서는 사람들이 아부하는 컴퓨터에 더 호감이 간다고 평가하면서도, 정작 아부하는 컴퓨터의 조언에는 더 비판적으로 반응한다는 것을 발견했다. 막상 결정을 내릴 때는 아첨꾼 컴퓨터에 숨은 의도가 없는지 의심하고 그 제안을 걸러낸 것이다. 아마도 좋은 약은 입에 쓰고, 충성된 말은 귀에 거슬린다는 진리를 알고 있기 때문이겠다. 다만 멀티태스킹으로 인해 생각할 겨를이 부족했던 집단에서는 아부하는 컴퓨터에 대한 경계가 발견되지 않았는데, 이는 아첨꾼의 말을 멀리하려면 정신을 단단히 차려야 함을 시사한다.

 

⑤ 챗GPT에 따르면, 아부하는 AI는 “즉각적으로는 이용자의 만족도를 높일 수 있으나 의학적 조언이나 여타 중요한 의사결정 상황에서 위험한 결과를 초래할 수 있다. 사용자의 확증편향을 강화하고 잘못된 신념을 공고하게 만들 가능성이 있다”고 한다. 이용자가 사슴을 가리켜 말이라고 하면, 그건 말이 아니고 사슴이라고 바로잡아 줘야 한다는 것이다. 이것이 과연 AI에만 해당되는 원칙일까? 다행히 앞서 언급한 아첨꾼 챗GPT는 회사가 업데이트를 취소하고 이전 버전으로 되돌리면서 무대 뒤로 사라졌다.