작전도 무기 선택도 AI가, 인간은 클릭만 하는 전쟁

 

① 핵무기 시대를 지배했던 공포의 균형이 인공지능(AI) 군비 경쟁 앞에서는 통하지 않을지도 모른다. 공멸의 불안감 때문에 유지됐던 억제력이, 이성도 공포도 없는 알고리즘에선 무력해질 수 있어서다.

② 15일(현지시간) 뉴욕타임스(NYT)에 따르면 냉전기를 지탱한 안보 원리는 ‘상호확증파괴(MAD)’다. 핵에는 핵으로 보복당해 모두 큰 피해를 볼 거란 인식이 핵 공격을 막았다. 하지만 AI 군비 경쟁에선 이 전제가 성립하지 않는다. 억제력이 작용하려면 상대 보복 능력을 확실히 알아야 하지만 AI 체계는 발전의 한계가 명확하지 않아 파악이 어렵다. 

③ 구조적 차이도 주목된다. 냉전 시대 핵 무력 경쟁은 정부 또는 군이 주도했지만, AI 경쟁은 스타트업과 벤처 투자자가 주역이다. 미국의 국가 방산 주도권은 실리콘밸리 기술 기업으로 넘어갔다. 미 국방부의 AI 두뇌로 여겨지는 ‘프로젝트 메이븐’이 대표적이다. 2017년 출범한 프로젝트는 2019년부터 미 기업 팔란티어가 운용 중이다. 

④ AI는 단 수 초 만에 해당 표적에 가장 적합한 무기를 제안했고 비용까지 따져 완벽한 공격 계획을 수립했다. 인간이 숙고하는 시간은 필요하지 않았다. 미 관계자는 “인간의 개입은 ‘왼쪽 클릭, 오른쪽 클릭’ 정도였다”고 말했다. 

⑤ 잭 섀너핸 전 미군 중장은 “(AI 전쟁에선) 상대가 무언가를 숨기고 있다고 느끼는 이상 안전하지 않은 시스템을 서로 전장에 투입하는 악순환이 생긴다”며 “기술이 통제를 벗어나기 전 한계선이 필요하다”고 조언했다.