인간 행세하는 AI, 법 만들어 막아야

 

① “지난해 12월 3일 밤, 한 친구가 저에게 ‘한국에 쿠데타가 일어났다’고 했습니다. ‘드디어 북한에 쿠데타가 일어났구나’ 생각했는데, 남한이었습니다. 그렇지만 크게 놀라지는 않았습니다.”

글로벌 베스트셀러 『사피엔스』를 쓴 이스라엘 출신 역사가 유발 하라리(49·예루살렘히브리대학교 교수)는 20일 서울 종로구에서 열린 기자간담회에서 이렇게 말했다.

② “독재자를 꿈꾸는 많은 지도자는 매뉴얼을 지니고 있다. 일단 언론과 사법부를 장악하면 마음대로 할 수 있다”며 “북한이나 러시아도 선거를 하지만, 자유 언론과 독립적 사법부가 없다면 선거는 무의미하다” 

③ 하라리는 글로벌 빅테크 기업을 향해서도 목소리를 높였다. “기업가들은 AI의 위험성을 우려하면서도 경쟁에서 지는 것이 두려워 AI를 개발하고 있다”며 “같은 인간은 못 믿으면서, 외계인 같은 AI, 예측 불가능한 AI는 믿고 있다”면서다.

그가 그리는 ‘AI 디스토피아’는 AI가 인간의 통제를 벗어나 의약품과 무기를 제조하는 세상이다. “AI가 약, 무기, 종교를 만든다면 어떨지 상상해보라”는 것이 그의 경고. 

④ 이어 그는 “정보기술은 고도화됐으나 대화는 더 어려워졌다”며 “SNS에서 챗봇이 가짜뉴스를 퍼뜨리면서 신뢰를 무너뜨리고 있다”고 지적했다. 챗봇이 인간 행세를 할 수 없도록 법을 만들어야 한다는 것이 그가 내놓은 해결책이다. 

⑤ “위조 화폐를 처벌하듯 위조 인간도 처벌해야 합니다. 특히 AI가 인간 행세를 하면서 증오와 공포를 담은 콘텐트를 퍼뜨리는 걸 막아야 합니다. 일단 그 콘텐트를 인간이 아닌 AI가 만들었다는 점을 밝히도록 의무화하는 것이 첫 번째 단추입니다.”