코난의 5줄 기사 요약

AI훈련 전력량이면 넷플릭스 185년 시청할 수 있다

에도가와 코난 2024. 7. 29. 07:29
728x90
반응형

 
최근 전 세계적으로 전력 수요가 갑자기 폭증한 배경엔 데이터센터, AI(인공지능) 서비스, 반도체 등 첨단 산업 생산 시설의 증가가 있다. 이런 시설과 서비스가 365일 24시간 내내 멈추지 않고 가동되면서 작업에 필요한 전력과 열을 식히기 위한 전력 사용이 동시에 늘어난다.

“데이터센터를 컴퓨터에 비유하자면, 24시간 컴퓨터를 끄지 않고 새 창을 끊임없이 열었다가 닫았다 하며 빠르게 작업하는 것”이라고 했다. 한꺼번에 많은 양의 데이터를 실시간으로 처리하다 보니 쉽게 발열되는데, 열을 식히려면 일종의 ‘거대한 에어컨’도 쉬지 않고 작동해야만 한다.

챗GPT 같은 AI 서비스도 마찬가지다. 사진, 영상, 문서 등 데이터를 한꺼번에 처리하고, 특성이나 패턴을 빠르게 추출해 내는 데는 많은 전력이 들어간다. 

이를 시간당 0.8kWh(1000kWh=1MWh)가 필요한 넷플릭스 시청과 비교하면 GPT-3를 훈련시키는 데 필요한 전력량은 넷플릭스를 185년 6개월(162만5000시간) 동안 시청하는 것과 마찬가지다.

“AI 서비스는 언어뿐 아니라 색깔 하나, 어떤 사물의 곡선의 정도까지도 모두 파악해 복잡한 연산을 한다”며 “특히 최근엔 거대 언어 모델(LLM) 등 더 빠르고 더 똑똑한 기술도 개발되면서 전력 소모량이 많아졌다”

728x90
반응형