'유령 계정' 넘치는 X, "AI 봇이 게시글 점령"

 

① ‘유령 인공지능(AI)이 진짜 생성형 AI를 바보로 만들고 있다.’

일론 머스크 테슬라 최고경영자(CEO·사진)가 인수한 X(옛 트위터)를 비롯해 SNS가 ‘유령 계정’으로 몸살을 앓고 있다. 

② 머스크 CEO는 2023년 10월 트위터를 인수할 당시 “AI 봇을 완벽하게 없애겠다”고 선언했다. 하지만 SNS 전문가들은 “인수 이전보다 AI 챗봇 문제가 더욱 심각해졌다”며 “자신 있던 머스크의 선언은 모두 무용지물”이라는 평가를 내놓고 있다. X의 검색 체계가 AI 봇에 점령당해 사실상 ‘회복 불능’ 상태라는 주장마저 나온다.

③ 머스크가 지난해 X에 부분 유료화를 도입한 것이 화근이 됐다. 게시글 조회수에 따라 수익을 받는 방침을 도입했기 때문이다. 조회수가 돈벌이가 되자 수익 창출을 원하는 이용자가 여러 유령 계정을 활용하기 시작했다. AI 특성상 무한히 게시글을 올릴 수 있기 때문에 갈수록 의미 없는 게시물이 X를 뒤덮고 있다.

④ 전문가들이 우려하는 가장 큰 문제는 유령 AI가 챗GPT와 제미나이 등 생성 AI의 답변 생성 체계를 방해할 수 있다는 점이다. 생성 AI는 웹에 흩어진 정보를 기반으로 답변을 생성하기 때문에 AI 봇이 만드는 가짜 트윗과 정보성 게시글에 영향을 받을 수 있다. AI 봇들이 자기들끼리 생성하는 ‘깡통 대화’도 문제로 꼽힌다.

⑤ 유통업계 관계자는 “젊은 여성 잠재 고객이 많이 모인 X 특성상 홍보 창구로서 버릴 수 없는 존재”라며 “AI 봇이 게시글에 너무 많이 붙어 실제 고객의 반응을 살필 수 없다”고 말했다. AI업계 관계자는 “유령 챗봇 대부분이 챗GPT를 사용하고 있다”며 “이론상 유령을 모두 없애려면 xAI가 챗GPT 성능을 압도적으로 뛰어넘어야 하는데 요즘과 같은 오픈소스 시대에 하나의 생성 AI만이 성능 우위를 점하는 것은 사실상 불가능하다”고 말했다.