AI 가짜 콘텐츠 범람, '사람이 쓴 글' 인증 등장

 

① 의미없는 저품질 글을 기계적으로 쏟아내는 이른바 ‘AI 콘텐츠 팜(Content Farm)’ 웹사이트 수천 개가 전 세계 인터넷 생태계를 빠르게 잠식하고 있다. 검색 엔진 상위 노출을 통해 광고 수입을 올리기 위한 목적이다. 인터넷 생태계를 혼탁하게 만드는 암적 존재다. AI 콘텐츠 팜의 성행은 ‘진짜’ 사람이 쓴 콘텐츠의 가치를 더 부각해, 인간이 만든 양질의 콘텐츠에는 ‘프리미엄’이 붙는 새 트렌드가 생길 것이란 전망도 나오고 있다.

② 뉴스 모니터링 단체 ‘뉴스가드’가 최근 공개한 자료에 따르면, 한국어와 영어, 중국어 등 16개 언어로 운영되는 AI 콘텐츠 팜 뉴스 및 웹사이트는 3006개인 것으로 나타났다. AI 콘텐츠 팜은 마치 농장처럼 콘텐츠를 마구잡이로 쏟아내는 웹사이트다. 뉴스가드가 2023년 5월 처음 추적을 시작했을 당시 49개였던 것과 비교하면 3년도 채 되지 않아 60배 가까이 늘어났다. 매달 300~500개의 새로운 AI 콘텐츠 팜 웹사이트가 생겨난다.

③ 유명 브랜드에 대한 허위 사실부터 정치적 음모론까지 가리지 않는다. 목적은 검색 엔진 상위 노출을 통한 광고 수익이다. 이런 웹사이트에 실리는 광고는 보통 자동화된 프로그래매틱 광고인데, AI 콘텐츠 팜이든 전통 언론사 웹사이트든 가리지 않고 ‘이용자’ 중심으로 광고가 노출되기 때문이다.

④  AI가 AI 슬롭(찌꺼기)을 다시 학습하며 지능이 퇴화하는 이른바 ‘모델 붕괴’ 현상의 원인이 되고 있는 것이다. 인터넷 업계 관계자는 “이런 웹사이트는 폐쇄를 시켜도 이름만 바꿔서 곧바로 나오기 때문에 없애기가 어렵다”고 말했다.

⑤ AI가 만든 저품질 콘텐츠의 생산 비용은 이미 사실상 0원에 수렴하고 있다는 게 테크 업계 진단이다. 결국 이용자가 인간임을 즉각적으로 증명할 수 있는 실시간 그룹 채팅이나 라이브 콘텐츠가 대안으로 부상할 것이라는 전망이다. 실제 식품 시장의 ‘유기농’ 인증처럼, 인간이 만든 콘텐츠임을 증명하는 ‘자랑스럽게 인간이 만듦(Proudly Human)’ ‘AI 없음(No A.I)’ 배지 같은 표식이 떠오르고 있다고 BBC가 17일(현지 시각) 보도하기도 했다.

 

스웨덴 출신 미래학자 닉 보스트롬은 본지에 “궁극적으로는 AI가 만든 콘텐츠의 품질이 인간을 뛰어넘을 것”이라며 “다만, 그 과정으로 가는 과도기에는 인간이 만든 콘텐츠나 그것을 증명하는 방식에 ‘프리미엄’이 붙을 것으로 예상된다”고 말했다.