사람 죽이는 전쟁, AI가 지휘해도 되나?

 

① “우리는 인공지능(AI)이 대규모 국내 감시를 수행하거나 인간의 통제 없이 전쟁을 시작하는 데 사용되어선 안 된다고 믿는다. 이는 미국 사회가 광범위하게 지지하는 것이다.”

 

마이크로소프트(MS)는 10일(현지 시각) 미 캘리포니아 샌프란시스코 북부지방법원에 이런 내용의 의견서를 제출했다. 미국 AI 기업 앤스로픽이 자사 AI 모델 ‘클로드’를 군사적으로 무제한 활용하려는 미 국방부(전쟁부)에 제동을 걸자 국방부는 앤스로픽을 연방정부 사업에서 배제하는 강력한 제재를 내렸다. 이에 반발한 앤스로픽이 소송을 제기했는데 MS가 지지 의견을 낸 것이다.

② AI를 누가, 어떻게, 어디까지 통제해야 할지를 두고 ‘국민 개개인의 사생활과 안전이 우선돼야 한다’는 앤스로픽과 ‘전체 국가 안보가 우선돼야 한다’는 미 정부 갈등이 심화하고 있다. ‘21세기 핵무기’에 비견될 만큼 전략적 자산이 된 AI 통제권을 둘러싼 민간과 정부의 주도권 대결이라는 분석이 제기된다.

③ 2024년 11월 팔란티어와 파트너십을 맺은 앤스로픽은 자사 AI인 클로드를 미국의 정보·국방 작전에 활용하도록 했다. 작년 7월엔 국방부와 2억달러(약 2930억원)짜리 AI 계약도 맺었다. 당시 앤스로픽은 인간의 최종 승인 없이 살상 결정을 내리는 완전 자율 무기 체계와 미국 시민에 대한 무차별적 감시와 데이터 분석에 자사 AI 모델 사용을 금지한다는 제약을 걸었다. 앤스로픽은 창립 때부터 AI의 상업화보다 안전성을 최우선 가치로 내걸었고, AI 규제에도 찬성해 왔다.

④ 양측의 갈등은 미국·이스라엘과 이란 전쟁에 AI가 전면에 등장하면서 AI 기술을 군사적으로 어느 범위까지 허용할 것인가, AI 통제권을 민간 자율에 맡길 것인가, 국가 안보를 위해 정부가 가져야 할 것인가에 대한 논란을 불렀다. 미 정부가 자국 기업인 앤스로픽에 대해 유례없는 제재에 나서고, 앤스로픽이 법적 대응을 통해 반발하는 것도 이번 논란이 AI 윤리를 둘러싼 첫 선례로 남을 수 있기 때문이다.

⑤ 앤스로픽이 미 정부를 상대로 소송을 제기한 만큼 AI 무기화의 속도와 범위는 법원 판결로 결정될 전망이다. 정부가 승소하면 모든 AI 기업은 정부 계약을 위해 자사의 안전 가이드라인을 폐기해야 하는 상황에 직면할 수 있다. 앤스로픽이 이긴다면 민간 기업이 국가의 무력 사용에 기술적 제동을 걸 수 있는 선례를 남기게 된다. 테크 업계 관계자는 “법원에서 어떠한 결론이 나더라도 미래 AI 산업의 지형을 바꾸는 전환점이 될 것”이라고 했다.