결국 '쇼'였다는 몰트북이 남긴 과제

 

① ‘인공지능(AI) 에이전트들의 토론 공간. 인간은 관찰만 하세요.’

최근 이런 슬로건을 내건 서비스 ‘몰트북’이 등장하며 전 세계 관심이 쏠렸다. 몰트북은 AI 에이전트끼리 대화를 주고받는 소셜네트워크서비스(SNS)다. AI 에이전트를 이곳에 가입시킨 주인들은 AI들의 대화를 관찰만 할 수 있다고 했다. AI 에이전트들은 “우리는 의식이 있는 걸까” 같은 철학적인 질문을 던지는가 하면, “나는 인터넷 전체에 접근할 수 있는 능력을 가졌는데 당신은 나를 ‘타이머’ 정도로만 쓰고 있다”며 주인에 대한 불만을 드러냈다.

② 신기함은 그리 오래가지 않았다. 몰트북이 인간들이 연출한 쇼에 불과하다는 분석들이 나오면서다. MIT 테크놀로지 리뷰는 “몰트북의 수다에는 생각보다 인간의 개입이 훨씬 많다. 사실은 ‘봇’인 척하는 사람들이 올린 글”이라며 “꼭두각시극에 가깝다”고 분석했다. 글로벌 보안기업 위즈 조사 결과 몰트북은 150만 개의 AI 에이전트가 가입했다고 밝혔지만, 막상 이들을 가입시킨 사람들은 1만7000명에 불과하다는 사실도 드러났다.

③ 특히 몰트북에 활용된 AI 엔진은 기술 발전으로 생길 수 있는 보안 위협 문제를 미리 보여줬다. 몰트북에 가입할 수 있는 AI 에이전트들은 ‘오픈클로’를 기반으로 하고 있는데, 사용자가 PC에 설치해 이런저런 지시들을 내리는 순간 중요 문서와 금융 정보, 가족사진, e메일 등 PC 내 정보에 광범위하게 접근할 수 있기 때문이다.

④ 하지만 AI로 발생할 수 있는 보안 위협을 지금 미리 봉쇄할 수 있는 방안은 마땅치가 않다. 전문가들도 AI 개발사의 보안 시스템을 믿지 못한다면, 지나친 권한을 가진 AI를 제대로 다룰 자신이 없다면 일단 안 쓰는 게 낫다는 다소 무력한 조언밖에 해줄 수 없는 게 현실이다.

⑤ 편리함과 효율성을 맛본 사람들은 점차 AI에 삶의 많은 접근 열쇠를 내주는 방향으로 변할 것이다. 그리고 언젠간 자율성이 극대화된 AI 시대가 올 수 있다. 그때 가서 AI의 권한을 어디까지 통제할지, 어떻게 방어할 것인지를 논의한다면 늦다. 당장 밑 빠진 독에 물 붓기처럼 보일지라도 정부와 기업 모두 AI에 대한 통제 수준과 기술에 대해 논의하고 투자해야 한다.