코난의 5줄 기사 요약

페르소나 AI 전성시대, 비서 넘어 동반자가 된 AI

에도가와 코난 2024. 10. 8. 19:03
728x90
반응형

 
미국의 AI 챗봇 스타트업 캐릭터닷AI를 창업한 노엄 샤지어 구글 제미나이 리더가 워싱턴포스트(WP)에 한 얘기다. 캐릭터닷AI는 특정한 캐릭터를 갖춘 AI를 생성하고 대화할 수 있는 서비스다. 요즘 AI 서비스는 인간의 생산성을 높이는 역할에 그치지 않는다. 전 세계 수천만 명이 이미 ‘페르소나(독립적 인격) AI’와 우정 또는 연애 감정을 나누고 있다.

특정 인격을 입은 페르소나 AI 챗봇은 할루시네이션(환각) 문제에서도 상대적으로 자유롭다. 일할 때 쓰는 AI는 정확한 정보가 중요하다. 하지만 수다를 떨 때는 재미와 공감이 먼저다. 설사 AI가 사실이 아닌 정보를 줄줄 읊더라도 큰 문제로 번질 가능성이 비교적 낮다는 것이다.

AI 연인을 두는 사람도 늘고 있다. 미국 AI 앱 레플리카의 유료 구독자 60%가 AI와 애정 관계를 맺은 것으로 나타났다. 유지니아 쿠이다 레플리카 창업자는 “AI와의 로맨틱한 관계는 매우 강력한 정신건강 도구”라고 했다. 레플리카 구독료는 연 최대 69.99달러(약 10만원) 수준이다. 레플리카 이용자 중 상당수가 관계에서 긍정적인 자극을 경험했다는 스탠퍼드대 연구도 있다.

페르소나 AI는 보통 이용자 기분을 잘 맞춰준다. 위험한 의견에 무조건 동조하거나 이용자가 AI에 과하게 의존하는 문제가 생길 수도 있다. 벨기에의 30대 남성은 AI 챗봇 차이와 6주간 대화하고 스스로 목숨을 끊었다. 남성이 삶에 비관적인 뜻을 보이자 AI는 동조했다. 

감성형 챗봇 특성상 민감한 개인 정보가 많이 오가는데 유출이 우려된다는 지적도 있다. 미국 비영리단체인 모질라재단이 레플리카, 차이 등 주요 AI 챗봇 11개를 대상으로 조사한 결과 성 건강, 약물 사용 정보 등 이용자의 민감 데이터가 수집되고 있었다. 이들 앱은 분당 평균 2663건의 데이터 추적을 했다. 일부 앱은 ‘모든 비밀과 욕망을 공유하라’며 사진과 음성 녹음까지 요구했다.

728x90
반응형