'AI 무기화'로 찾아온 또다른 '오펜하이머 모멘트'

 

① “우리는 인공지능(AI)이 인류에게 이로움을 주기를 원하지, 비인도적이거나 극도로 해로운 방식으로 사용되는 건 원치 않는다.”

구글 임직원 600여 명이 순다르 피차이 최고경영자(CEO)에게 국방부와의 AI 협력을 중단해 달라며 이렇게 지난달 말 공개서한을 보냈다. 자사 AI 모델 ‘제미나이’가 군사·감시 목적으로 활용될 가능성을 우려한 반발이었지만, 회사는 흐름을 바꾸지 않았다. 구글은 결국 미 국방부의 기밀 업무 환경에서 자사 AI를 활용할 수 있도록 하는 데 합의했다.

② 한때 군사 프로젝트 참여를 철회했던 기업이 이제는 국가 안보 체계 구축에 직접 뛰어들고 있는 셈이다. 구글만의 변화가 아니다. 오픈AI, 아마존웹서비스, 팔란티어 등의 AI 기업들도 미국 국방부와의 협력을 빠르게 확대하고 있다. 기술 못지않게 ‘가치’를 이야기하고, “인류에게 이로운 AI”를 강조하던 실리콘밸리의 이상주의는 점점 흐려지고 있다. 

③ 이처럼 실리콘밸리가 ‘변모’한 원인으로 일각에선 중국과의 AI 패권 경쟁을 꼽는다. 중국이 AI를 국가 전략 산업으로 밀어붙이는 가운데 ‘딥시크’ 같은 저비용 고성능 모델이 등장하며 빅테크들도 충격을 받았다는 것. 생성형 AI가 단순한 생산성 도구를 넘어 국가의 군사·정보 우위를 결정할 전략 기술로 인식하기 시작했단 얘기다.

④ ‘승자독식’의 시장이 될 것으로 점쳐지는 AI 시장의 무한경쟁도 기업들의 윤리적 망설임을 없앤 요인이다. “우리가 과연 이 일을 해야 하는가”라는 질문은 이제 “경쟁에서 살아남으려면 어쩔 수 없다”는 현실론에 밀려나고 있다. 과거 실리콘밸리에서 금기(禁忌)처럼 여겨졌던 군과의 밀착이 이제는 ‘애국’과 ‘생존 전략’으로 포장되고 있다.

⑤ 미국의 원자폭탄 개발 계획인 ‘맨해튼 프로젝트’를 이끌었던 물리학자 로버트 오펜하이머는 핵무기의 파괴력을 확인한 뒤 깊은 두려움과 후회에 사로잡혔다. 이른바 ‘오펜하이머 모멘트’다. AI의 ‘오펜하이머 모멘트’도 어쩌면 이미 시작됐을지도 모르겠다.