샘 알트만: RAM은 PC가 아닌 데이터센터에 있어야 한다

샘 알트만: '사용자 컴퓨터 안에 RAM이 있다는 것은 부끄러운 일'이라는 발언은 OpenAI의 로컬 AI 모델 실행 반대 입장을 잘 보여준다. 회사의 CEO는 희소한 메모리가 개인용 컴퓨터에 미사용 상태로 방치되기보다는 데이터센터에 할당되어야 한다고 주장한다.

알트만은 10월 30일 공개된 유튜브 채널 Cheeky Pint와의 인터뷰에서 이 의견을 제시했다. 그는 개인용 컴퓨터에서 실행되는 오픈소스 모델을 클라우드 서비스에 대한 의존도를 줄이는 방법으로 보는 사람들의 의견에 반박하고 있었다.

알트만이 로컬 추론에 반대하는 이유

로컬 추론은 학습된 AI 모델을 기기에서 직접 실행한다. 처리는 데이터를 ChatGPT나 Claude 같은 제3자 클라우드 서비스로 전송하는 대신 컴퓨터나 휴대폰의 CPU, GPU, NPU 같은 하드웨어를 사용할 수 있다.

알트만은 로컬 AI가 사용 가능한 메모리 대부분을 유휴 상태로 방치한다고 주장했다. 그는 제한된 RAM이 사용자의 컴퓨터에 분산되어 있지만 시간의 단 5%만 사용된다고 말했다. 그의 관점에서는 메모리를 데이터센터에 집중시키는 것이 희소한 전 지구적 자원을 더 잘 활용할 수 있다.

그의 입장은 데이터센터 건설과 확장이 계속될 것이라는 가정을 전제로 한다. 또한 해당 시설에서 지속적으로 운영되는 RAM이 사용자 기기에 설치된 메모리보다 더 큰 가치를 제공할 것이라는 가정도 포함한다.

OpenAI의 비즈니스 모델이 논의의 배경

OpenAI는 여러 오픈소스 모델을 출시했지만 핵심 사업은 여전히 데이터센터에서 실행되는 폐쇄형 모델에 기반하고 있다. 이는 로컬 추론을 단순한 기술적 선택을 넘어선 문제로 만든다. 사용자가 AI 모델에 접근하고 비용을 지불하는 방식에 영향을 미칠 수 있기 때문이다.

Tom's Hardware는 알트만의 발언을 OpenAI 비즈니스 모델에 대한 옹호로 설명했다. 현재 개인용 컴퓨터가 OpenAI에 위협이 되지는 않지만, 로컬 추론은 사용자가 GPT-6 Luna 같은 모델에 지불하는 비용을 줄일 수 있다는 의견이다.

따라서 이 논쟁은 두 가지 경쟁하는 접근 방식을 다룬다. 로컬 모델은 처리를 사용자의 하드웨어에 유지한다. 클라우드 모델은 계산과 메모리를 제공자가 소유한 데이터센터에 배치하여 기업이 공유 용량을 관리하고 접근에 대해 비용을 청구할 수 있다.

메모리 공급이 압박을 가하다

AI 인프라 기업들은 메모리 공급을 확보하기 위해 장기 계약을 체결하고 있다. Micron은 2030년까지 예상 수익의 35% 이상을 포함하는 26개의 전략적 계약을 체결했으며, 32억 달러의 확약된 고객 선금을 받았다.

Samsung은 2027년까지 예상 메모리 칩 생산의 75–80%를 포함하는 계약을 최종 단계에서 진행 중인 것으로 알려져 있다. SK Hynix도 유사한 계약을 추진 중이다.

이 사이클은 고(高) 칩 수요 초기 시기와는 다르다. 제조업체들은 예전에 공장을 확장한 후 수요가 냉각되면서 과잉 공급에 직면했다. 이번에는 용량을 대폭 증가시키는 대신 여러 차례 가격을 인상했으며, 공급을 수요 이하로 유지하고 가격 압력을 연장하고 있다.

분석가들은 메모리 칩 부족이 2028년 이상 지속될 것으로 예상한다. 이는 제조업체에게 더 큰 협상력을 제공하는 동시에 기업들이 향후 생산을 놓고 경쟁하게 한다.

컴퓨터 가격이 중요한 이유

The Verge의 Steve Bonifiled는 알트만이 사용자의 개인용 컴퓨터를 의미하든 AI 애플리케이션 개발자가 사용하는 기기를 의미하든 결과는 유사하다고 말했다. 그의 관점에서는 기업들이 RAM 주문에 지출하는 수십억 달러가 컴퓨터, 휴대폰 및 기타 기술을 더 비싸게 만드는 데 도움이 되고 있다.

이 주장은 이 뉴스를 OpenAI를 넘어서 관련성을 갖게 한다. 로컬 AI, 클라우드 컴퓨팅, 메모리 할당 및 하드웨어 가격을 연결한다. 로컬 모델과 클라우드 서비스를 검토하는 독자들은 트레이드오프를 명확히 볼 수 있다: 로컬 추론은 사용자가 이미 소유한 하드웨어를 사용하는 반면, 클라우드 추론은 희소한 메모리를 놓고 적극적으로 경쟁하고 있는 데이터센터에 수요를 집중시킨다.