AI 시대에 사실을 어떻게 지킬 것인가

 

① 이번 전쟁은 충격적이다. 갑작스런 개전, 게임 같은 인명 살상, 파괴, 경제적 쇼크 때문만은 아니다. 보고 듣는 것을 믿을 수 없는 ‘탈(脫)진실’ 상황이 더해졌기 때문이다. 개전 초 미사일이 목표물을 타격하는 장면들은 전쟁이 곧 끝나리란 기대를 갖게 했다. 하지만 그 장면들은 효과 이미지가 덧씌워져 증폭된 것이었다. 개전 후 첫 2주에만 인공지능(AI)이 생성한 허위 콘텐츠 110여 건이 전황을 왜곡했다. ‘탈진실의 시대’가 필터 버블, 정치 양극화, 강성 권력의 부상을 거쳐 인류 종말의 서곡 같은 전쟁의 탈진실화 단계에 들어선 양상이다.

② 그 중심에 AI 기술이 존재한다. 이제 AI는 인간의 말로 묻고 답하는 거대 언어 모델(LLM)을 넘어 스스로 사고하고 판단하는 초지능 AI 에이전트로 진화했다. 이번 전쟁은 이 기술이 할 수 있는 일에 사실상 한계가 없다는 것을 드러냈다. AI 에이전트의 무기화를 거부하며 AI 벤처기업 앤스로픽이 미 국방부에 맞선 일이 뉴스가 되었다. 하지만 결국 앤스로픽의 ‘클로드(Claude)’가 전장을 시뮬레이션해 공격 시나리오를 작성하고, 팔란티어의 ‘고담(Gotham)’이 위성 정보와 감청 데이터 등을 통합해 표적을 식별한 것으로 알려졌다.

③ AI가 실전의 두뇌 역할을 하고, 작전을 수행하며, 그 진실을 왜곡해 소통하는 가공할 상황이 현실이 된 것이다. 기술의 위험을 호들갑스럽게 부풀리고 싶지는 않다. 하지만 이 전쟁을 지켜보며 떨리는 가슴으로 묻게 된다. 우리는 AI 기술이 광적인 국가 권력과 결합해 통제 불능의 AI 권력 체제(AI regime)로 나아가는 상황에 대해 어떤 대비책을 갖고 있는가.

④ 이와 관련해 저명한 정치철학자 마이클 샌델과 노벨 경제학상 수상자 대런 아세모글루는 최근 한 온라인저널(Project Syndicate) 대담에서 기술의 쓰임에 대한 결정 권한을 시민들이 되찾아야 한다고 역설했다. 맹목적 기업 논리와 패권적 국가 권력이 기술의 방향을 좌우하는 현실에서, 의식 있는 시민이 우리 삶을 지킬 최후의 방어선이 되고 있다는 것이다.

⑤  “AI는 압도적인 속도로 텍스트를 생성하지만 행간에 담긴 맥락은 결코 이해하지 못한다. 기자의 정체성은 ‘기사를 쓰는 사람’에서 ‘AI가 쓴 기사를 검증하고 책임지는 사람’으로 이행해야 한다. 이는 직능의 축소가 아니라 책임의 격상을 의미한다. 기자의 존재 이유는 이 지점에서 새롭게 증명되어야 한다.”