“AI 위험, 6개월 개발 멈추자”

“AI 위험, 6개월 개발 멈추자”... 머스크·워즈니악 포함 IT거물 1000명 서명 - 조선일보 (chosun.com)

“AI 위험, 6개월 개발 멈추자”... 머스크·워즈니악 포함 IT거물 1000명 서명

 

<요약>

 

1. 일론 머스크 테슬라 CEO(최고경영자)를 비롯해 애플 공동창업자인 스티브 워즈니악, 세계적 AI 석학 요수아 벤지오 교수 등 AI(인공지능) 전문가들이 6개월 간 첨단 AI 개발을 일시 중단해야 한다고 주장했다.

 

 

 

2. 29일(현지시각) 미국 비영리단체 ‘삶의 미래 연구소(FLI)’는 “최첨단 AI 시스템의 개발을 일시 중단하자”는 공개 서명에 머스크와 워즈니악을 포함한 유명 인사 1280명의 서명을 받았다고 밝혔다. 이 서한에는 이미지 생성 AI인 스테이블디퓨전 개발사인 스테빌리티AI의 에마드 모스타크 CEO, 에번 샤프 핀터레스트 CEO, 세계적 베스트셀러 작가인 유발 하라리, AI 권위자인 스튜어트 러셀 UC버클리 컴퓨터과학과 교수, 알파벳 산하 AI 기업 딥마인드의 연구진 등 유명 AI 전문가들이 서명했다.

 

AI 개발 일시중단 촉구 서한에 서명한 사람들 명단 일부. /FLI 웹사이트 캡처

 

 

3. 이들은 서한에서 “최첨단 AI는 지구상의 생명 역사에 중대한 변화를 나타낼 수 있다”며 “강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다”고 주장했다. 이들은 “독립적인 외부 전문가가 감독하는 안전 프로토콜을 개발할 때까지 모든 AI 연구실에서 오픈AI가 최근 공개한 AI 모델 GPT-4보다 강력한 AI 개발을 최소 6개월 간 즉시 중단할 것으로 요청한다”고 밝혔다. 

 

 

3. 최근 오픈AI의 AI챗봇 챗GPT가 등장하고, 이보다 더 성능이 좋은 AI가 나오면서 AI를 규제해야 한다는 목소리가 높은데 적절한 규제와 안전망이 마련될 때까지 AI 개발을 일시 중단해야 한다는 것이다.

 

 

4. 테크 업계에선 이 서명이 실제 효력보다는 선언적 의미가 있다고 본다. 일론 머스크는 29일 자신의 트위터에 “거대 AI 업체들은 이 주장을 흘려들을 수도 있지만, 적어도 이런 목소리가 있다는 것은 알려야 한다”고 했다.

 

 

5. 한편 이 서명이 전 세계 테크 업계에 부정적 영향을 가져올 것이라는 관측도 많다. AI의 위험성에 대해서는 공감하지만 이를 강제적으로 6개월 이상 개발 중단하는 것이 합당하냐는 것이다. 미국의 모든 AI 업체들이 서명에 따라 6개월 간 개발을 중지해도, 미국 영향권을 벗어난 중국에서는 해당 기간 AI 개발을 지속할 수 있다는 지적도 나온다. 이는 중국이 미국 AI 기술력을 따라잡는 결정적 기회를 줄 수 있다.

 

 

6. 일각에선 이번 서명이 AI 주도권을 가진 오픈AI와 이를 따라잡으려는 구글과 기타 AI 업체들의 신경전으로 본다. 오픈AI의 개발을 중지시키고 그 사이 몰래 개발에 몰두해 빠르게 추격하려는 음모라는 것이다. 해당 서명엔 구글과 구글의 딥마인드, 메타, 스테이블AI 같은 업체의 관계자 서명은 있지만, 오픈AI 관계자의 서명은 없다.

 

 

7. 테크 업계에선 이번 서명이 AI에 대한 규제가 본격적으로 시작되는 움직임으로 해석한다. 미국의 연방통신위원회(FCC)도 AI가 가뜩이나 비대해진 테크 대기업들의 독과점 구조를 더욱 공고히 할 수 있다고 보고 이에 대한 조사를 준비 중이다.

 

 

<생각과 느낌>

 

이 기사를 보니 예전에 사마천의 『사기』에서 읽었던 이야기가 생각납니다.

 

무릇 군자란

상대방이 강을 다 건너고 진을 완성하고 나서 

정정당당하게 자웅을 겨뤄야 한다고 하면서

 

상대방이 다 준비를 완료한 이후에  

전쟁에 임해서 대패해서 목숨을 잃고 나라도 잃었다는 이야기. 

물론 순진하게 그대로 믿을거라고는 생각하지 않습니다.