'알파고의 창시자'는 왜 AI를 걱정하나

 

① 인공지능(AI) 혁명은 2016년 바둑 AI 알파고가 세계 챔피언 이세돌 9단을 꺾으며 시작됐다. 구글 딥마인드 CEO 데미스 허사비스는 당시 “우리가 달에 착륙했다”고 환호했다. ‘알파고의 창시자’ 허사비스는 여기서 멈추지 않았다. 단백질 구조를 예측하는 AI를 개발해 2024년 노벨 화학상을 받았다.

② 그런 허사비스가 지난달 인도에서 열린 ‘AI 임팩트 정상회의’에서 급속한 기술 발전이 가져올 위험성을 경고했다. AI의 엄청난 힘을 세상에 풀어놓는 순간 제어하기가 어렵기 때문이다. 그는 악의적 행위자들의 AI 기술 오남용, 시스템이 통제력을 상실할 가능성을 우려하며 “강력한 안전장치 구축이 시급하다”고 강조했다.

③ 기술 혁명은 종종 재앙을 동반한다. 그 기술이 본질적으로 나빠서가 아니라 우리가 그것을 지혜롭게 사용하는 데 시간이 걸리기 때문이다. 산업혁명도 그랬다. 기술의 축복은 더 풍요로운 세상을 약속했지만 그 과정에서 무자비한 제국주의와 전례없는 살인 기계가 등장했다. 나치즘은 산업사회를 제대로 건설하는 방법을 배우느라 치른 값비싼 실험이었다.

④ 역사학자 유발 하라리는 베스트셀러 ‘넥서스’에서 “오늘날 사람들은 나치의 만행에 경악하지만, 당시엔 수백만 명이 그들의 대담한 비전에 매료됐다”며 “AI를 선도하는 두세 국가가 군사·경제적으로 세계를 압도하면서 ‘AI 제국화’를 시도할 수 있다”고 우려했다. AI는 핵폭탄보다 훨씬 더 강력하고 파괴적이며, 투옥도 살해도 두려워하지 않는다. 따라서 우리는 실수할 여유가 없다.

⑤ 알고리즘은 진실에 관심이 없다. 어떻게 하면 우리의 주의를 끌 수 있을까에 대해서만 관심을 갖는다. 조회 수가 돈과 직결되기 때문이다. 따라서 사람들은 가장 악랄한 콘텐츠를 가장 많이 보게 된다.

 

 ‘AI의 추천을 거부할 자유’는 인간이 양도하면 안 되는 최후의 보루다.