'인류 위한 AI' 사명 버린 기업들

 

① 지난달 방문한 미 샌프란시스코 오픈AI 본사에서 가장 인상 깊었던 것은 벽마다 붙어 있는 오픈AI의 사명과 관련한 포스터였다. 오픈AI는 2015년 “인류 전체에 이익이 되는 AGI(범용 인공 지능)를 개발하고 보급하겠다”는 목표로 설립됐다. 직원들은 일을 하면서, 밥을 먹으면서, 출퇴근을 하면서 ‘인류에 이익이 되는 AI’라는 문구가 담긴 전시물·포스터를 마주하게 된다. 이는 선한 인공지능(AI)을 만들겠다는 다짐이자 새로운 기술인 AI를 개발하는 기업으로서 안고 가야 할 무거운 책임감을 보여준다.

② 그런데 오픈AI가 ‘변심’했다며 비판받고 있다. 미국·이스라엘과 이란 전쟁에 AI 기술이 대거 쓰인 가운데 오픈AI가 미 국방부와 ‘군사 작전 AI 활용 계약’을 체결했기 때문이다. 앤스로픽이 미 국방부와 갈등을 겪으며 정부에서 퇴출된 지 몇 시간 만에 오픈AI는 이 자리를 꿰찼다.

③ 샘 올트먼 CEO는 “레드라인(한계선)을 지켰다”는 해명을 내놨다. 오픈AI의 사명과 어긋나는 일이 아니었다는 뜻이다. 그러나 AI가 군사 작전에서 구체적으로 어떤 업무를 수행하는지는 제대로 설명하지 못했다. 비판이 계속되자, 이번엔 아예 책임을 회피했다. 그는 “군대가 기술을 어떻게 사용할지는 기업이 아니라 공직자와 정부가 결정한다”며 “회사가 통제하지 않는다”고 했다.

④ 미국·이스라엘과 이란 전쟁에는 AI가 정보 수집부터 전략 수립, 정보·심리전까지 광범위하게 투입됐다. 빠르게 성장한 AI 기술은 마침내 사람들의 생사를 좌우하는 데도 결정적 역할을 하게 됐다. 그 어느 때보다 엄격한 레드라인이 필요한 때지만 기업들은 무책임하다. 심지어 자신들의 사명까지 외면하면서 말이다.

⑤ 각 회사의 사명이 담긴 포스터를 올려다보길 바란다. 전쟁을 보고 있자니, 인류를 위하기보단 위협하는 AI가 더 많아진 것 같아 두렵다.