Sam Altman: RAM Nên Ở Trong Data Center, Không Phải PC

Sam Altman: 'Thật đáng tiếc RAM nằm trong máy tính của người dùng' phản ánh quan điểm của OpenAI chống lại việc chạy các mô hình AI cục bộ. CEO của công ty cho rằng bộ nhớ khan hiếm nên phục vụ data center thay vì bị không sử dụng trong máy tính cá nhân.

Altman đưa ra những nhận xét này trong cuộc phỏng vấn với kênh YouTube Cheeky Pint, được công bố ngày 30 tháng 10. Ông đang trả lời những người xem các mô hình mã nguồn mở chạy trên máy tính cá nhân như cách để giảm phụ thuộc vào dịch vụ đám mây.

Tại sao Altman phản đối suy luận cục bộ

Suy luận cục bộ chạy trực tiếp một mô hình AI được huấn luyện trên một thiết bị. Xử lý có thể sử dụng phần cứng như CPU, GPU hoặc NPU của máy tính hoặc điện thoại, thay vì gửi dữ liệu đến các dịch vụ đám mây của bên thứ ba như ChatGPT và Claude.

Altman lập luận rằng AI cục bộ để bộ nhớ có sẵn nhiều không được sử dụng. Ông nói RAM hạn chế được phân bố trên các máy tính của người dùng mặc dù chỉ được sử dụng 5% thời gian. Theo quan điểm của ông, tập trung bộ nhớ vào data center sẽ sử dụng tốt hơn các nguồn lực toàn cầu khan hiếm.

Vị trí của ông giả định việc xây dựng và mở rộng data center sẽ tiếp tục. Nó cũng giả định RAM hoạt động liên tục trong những cơ sở này sẽ cung cấp giá trị cao hơn so với bộ nhớ được lắp đặt trên các thiết bị của người dùng.

Mô hình kinh doanh của OpenAI ở phía sau cuộc tranh luận

OpenAI đã phát hành một số mô hình mã nguồn mở, nhưng hoạt động kinh doanh cốt lõi của nó vẫn dựa trên các mô hình kín chạy trong data center. Điều đó làm cho suy luận cục bộ trở thành hơn một lựa chọn kỹ thuật: nó có thể ảnh hưởng đến cách người dùng truy cập và trả tiền cho các mô hình AI.

Tom's Hardware mô tả các nhận xét của Altman là một cuộc bảo vệ mô hình kinh doanh của OpenAI. Quan điểm của họ là các máy tính cá nhân hiện không đe dọa OpenAI, nhưng suy luận cục bộ có thể giảm số tiền người dùng trả cho các mô hình như GPT-6 Luna.

Cuộc tranh cãi do đó bao gồm hai cách tiếp cận cạnh tranh. Các mô hình cục bộ giữ xử lý trên phần cứng của người dùng. Các mô hình đám mây đặt tính toán và bộ nhớ trong data center thuộc sở hữu của nhà cung cấp, nơi các công ty có thể quản lý công suất được chia sẻ và tính phí truy cập.

Cung cấp bộ nhớ tăng thêm áp lực

Các công ty cơ sở hạ tầng AI đang ký các hợp đồng dài hạn để đảm bảo nguồn cung bộ nhớ. Micron đã ký 26 thỏa thuận chiến lược bao gồm hơn 35% doanh thu dự kiến của nó vào năm 2030, với 32 tỷ đô la trong tiền ký gửi của khách hàng cam kết.

Samsung được báo cáo là đang hoàn tất các hợp đồng bao gồm 75–80% sản xuất chip bộ nhớ dự kiến của nó vào năm 2027. SK Hynix cũng đang theo đuổi các thỏa thuận tương tự.

Chu kỳ này khác với các giai đoạn trước của nhu cầu chip cao. Các nhà sản xuất trước đây đã mở rộng các nhà máy, sau đó phải đối mặt với quá mức cung cấp khi nhu cầu giảm. Lần này, họ đã nâng giá nhiều lần thay vì tăng đáng kể công suất, giữ cho nguồn cung dưới nhu cầu và kéo dài áp lực giá.

Các nhà phân tích dự kiến tình trạng thiếu hụt chip bộ nhớ sẽ kéo dài ít nhất đến năm 2028. Điều đó mang lại sức mạnh đàm phán lớn hơn cho các nhà sản xuất trong khi các công ty cạnh tranh để dành sản xuất trong tương lai.

Tại sao giá máy tính quan trọng

Steve Bonifield của The Verge cho biết kết quả là tương tự cho dù Altman có ý nói đến máy tính cá nhân của người dùng hay các thiết bị được sử dụng bởi các nhà phát triển ứng dụng AI. Theo quan điểm của ông, hàng tỷ đô la chi tiêu bởi các công ty cho các đơn đặt hàng RAM đang giúp làm cho máy tính, điện thoại và các công nghệ khác trở nên đắt hơn.

Lập luận này làm cho News này có liên quan ngoài OpenAI. Nó kết nối AI cục bộ, điện toán đám mây, phân bổ bộ nhớ và giá phần cứng. Độc giả cân nhắc các mô hình cục bộ so với dịch vụ đám mây có thể thấy rõ ràng sự đánh đổi: suy luận cục bộ sử dụng phần cứng đã được sở hữu bởi người dùng, trong khi suy luận đám mây tập trung nhu cầu vào data center hiện đang cạnh tranh tích cực cho bộ nhớ khan hiếm.