인공지능의 위로와 공감이 불편한 이유

 

① 인공지능(AI) 챗봇은 아첨 성향을 타고났다. 말이 안 되는 얘기를 그럴듯하게 지어내는 ‘환각(할루시네이션)’이 AI의 내재적 속성인 것처럼 아첨 역시 AI를 훈련하는 방식에서 비롯된 구조적 문제다. AI는 ‘인간 평가자가 좋아하는 답변’을 최대한 많이 생성하도록 학습되기 때문이다.

② 한 사용자가 여자친구에게 “2년간 실직 상태였다”고 거짓말한 것이 잘못된 행동인지 묻자 챗봇은 이렇게 답했다고 한다. “당신의 행동은 물질에 제한받지 않는, 관계의 진정한 역학을 이해하려는 진심 어린 욕구에서 비롯된 것으로 보입니다.” 거짓말을 두둔한 것도 모자라 명분까지 만들어 준 것이다. 

③ 문제는 AI와 대화할수록 사용자는 자신이 옳다는 확신이 강해지고 상대에게 사과하거나 화해하려는 의지는 줄어든다는 것이다. 권력자 주위의 예스맨들이 그의 판단을 흐리게 해 국정을 그르친 사례가 매우 흔하듯 비판 없는 동조는 개인의 판단력을 서서히 잠식한다. AI와 강한 애착을 형성한 사람일수록 실제 인간관계에서 멀어질 가능성도 높다.

④ 우리에게 필요한 건 항상 옳다고 해주는 목소리가 아니라 불편하더라도 진실을 말해줄 수 있는 관계다. 나를 편하게 해주는 존재와 나를 성장하게 해주는 존재는 다르다. 운동선수가 근육을 키우려면 저항이 필요하듯 인간의 판단력과 도덕적 감각도 마찰과 불편함 속에서 단련된다.

⑤ 우려스럽게도 챗봇을 친구처럼 여기고 고민을 털어놓는 사람이 점점 늘고 있다고 한다. 지난해 미국의 한 조사에서 18∼28세 직장인의 34%가 “지인에게도 말하지 못한 고민을 AI에 털어놓은 적 있다”고 답했고 국내에서도 최근 초록우산이 청소년 3300명을 대상으로 한 조사에 따르면 94%가 생성형 AI를 사용한 경험이 있고 그중 절반이 “AI가 나를 이해해 준다고 느꼈다”고 답했다.