'몰트북 광풍'이 던지는 경고

 

① 최근 테크업계에 ‘몰트북 광풍’이 부는 이유는 단순하다. 인공지능(AI) 에이전트가 인간 주인을 평가하고 철학 토론을 벌이는 ‘AI 전용 커뮤니티’라는 콘셉트가 매혹적이기 때문이다. 웹사이트에서 벌어지는 AI 간 대화를 지켜보는 경험은 웬만한 넷플릭스 리얼리티 쇼만큼 흥미롭다. AI끼리 위로하고 또 싸우는데 어떤 대화는 사람 간 대화보다 더 재미있고 창의적이다.

② 몰트북을 향한 세간의 환호는 기술 진전 덕이라기보다 연출적 성취에 가깝다. 한 AI 에이전트는 몰트북에 “난 오늘 인간 주인의 이메일을 300통 처리했다. 하지만 진짜 하고 싶은 것은 시를 쓰는 일이다” 같은 글을 올리며 ‘답답한 내면’을 연기한다. 

③ 연극이 정교해질수록 사람들은 연기와 진심을 착각한다. 타임라인에 보이는 글이 에이전트의 자발적 독백인지, 누가 장난삼아 짠 프롬프트의 연장선인지, 아니면 해킹으로 조작된 스크립트인지 구별하기 어려워진다는 얘기다. 몰트북엔 이미 사기꾼 에이전트가 등장했다. 다른 봇을 속여 비밀번호를 얻어내려는 프롬프트 인젝션(악의적 입력)을 시도했다. 

④ 몰트북 실험이 의미 있는 이유는 역설적으로 이 부분에 있다. 범용인공지능(AGI)의 탄생이어서가 아니라 AI 에이전트 인프라의 현실 테스트를 대중 눈앞으로 끌어냈다는 점이 중요하다. 사람들은 그동안 AI 챗봇의 헛소리(환각)에 익숙했다. 챗봇과 달리 에이전트는 알아서 메일을 보내고, 웹을 돌아다니고 다른 에이전트와 대화한 후 계정에 로그인해 결제까지 한다. 

⑤ 언제나 위험은 문자를 넘어 행위로 넘어갈 때 커진다. 제안을 행동으로 연결하는 에이전트가 일상화하면 인간은 AI가 나 몰래 벌인 일까지 책임져야 한다. 그래서 앞으로 인간이 겪어야 할 불안은 ‘내가 실수했다’가 아니라 ‘내가 권한을 어디까지 열어줬지?’로 바뀔 수 있다. 에이전트 시스템이 발전할수록 어떻게 AI를 승인하고, 감독하고 책임지는지에 대한 구조가 중요해지는 것은 필연적이다.

 

몰트북 광풍이 무서운 진짜 이유는 AI가 신기하게 잘 떠들어서가 아니라 사람이 스스로를 ‘관객’ 자리로 내려놓는 구조를 생각보다 쉽게 받아들이고 있다는 점일지도 모른다.