AI가 누르게 될 '전쟁 버튼'

 

① 1945년 7월 첫 원폭 실험을 앞두고 핵무기 원리를 고안했던 물리학자 레오 실라르드 등 70여 명은 트루먼 미국 대통령에게 연명 상소를 보냈다. “원자력은 살상 도구가 아닌 인류의 축복이 돼야 한다”는 호소를 담은 것으로, 과학자의 양심과 국가 권력이 충돌한 역사적 장면이었다.

② 논란의 시작은 2021년이다. 오픈AI의 연구 담당 부사장 아모데이는 핵심 인재들을 이끌고 나가 ‘앤스로픽’을 세웠다. 반발의 핵심은 ‘헌법적 AI’였다. AI에 인간의 비위를 맞추는 방법보다 인권과 민주주의라는 헌법을 먼저 가르쳐 스스로 도덕적 판단이 가능하게 안전장치를 만들자는 것이었다. 앤스로픽이 이란 전쟁에 앞서 “살상 무기에 우리 기술을 쓰지 말라”며 미 국방부에 맞선 것도 같은 맥락이다.

③ 반면 경쟁사인 오픈AI의 샘 올트먼 CEO는 “군사적 활용 범위는 기업이 아닌 민주적 절차와 공직자가 결정할 몫”이라며 미 국방부와 계약을 맺었다. 칼을 만드는 대장장이가 쓰임새까지 고민할 필요는 없다는 논리다. 칼리노프스키 총괄은 “기계가 인간의 최종 승인도 없이 스스로 살상 대상을 결정하는 미래에 대해 회사가 눈을 감고 있다”는 취지의 경고를 남기고 짐을 쌌다.

④ 트럼프 행정부는 앤스로픽을 워크(깨어 있는 척하는 좌파) 기업이라 비난하며 이란 공습 직전 이 회사 모델을 정부 납품 목록에서 제외시켰다. 한술 더 떠 미 정부는 AI 기업이 정부와 계약하려면 자사 모델의 ‘모든 합법적 사용’을 허용해야 한다는 지침도 추진 중이다.

⑤ 히로시마 원폭 투하 직후 후회했던 오펜하이머는 트루먼 대통령에게 “제 손에 피가 묻어 있는 것 같다”고 말했다. 돌아온 것은 “저 징징대는 과학자를 다시는 내 앞에 데려오지 말라”는 트루먼의 면박이었다. 지금 AI 거물들은 ‘피 묻은 손’을 정부의 결정이란 장갑으로 감추려 한다. 영국 연구진의 전쟁 시뮬레이션에서 AI가 핵 버튼을 누르는 확률은 95%였다. 인간의 절제와 공포가 거세된 결과다.