跳到正文
vrBlogs

Sam Altman:RAM 应该在数据中心,而不是个人电脑

Sam Altman 认为本地 AI 推理浪费了稀缺的 RAM,而数据中心需求推高了内存合同、短缺和技术成本。

作者

· 阅读约 1 分钟

Sam Altman:RAM 应该在数据中心,而不是个人电脑

Sam Altman:"RAM 存在于用户电脑中是一种遗憾"这句话概括了 OpenAI 反对在本地运行 AI 模型的观点。这家公司的首席执行官表示,稀缺的内存应该用于数据中心,而不是闲置在个人电脑中。

Altman 在接受 YouTube 频道 Cheeky Pint 采访时发表了这些看法,采访发布于 10 月 30 日。他是在回应那些认为在个人电脑上运行开源模型可以减少对云服务依赖的人。

Altman 为何反对本地推理

本地推理是指在设备上直接运行已训练的 AI 模型。处理可以使用计算机或手机的 CPU、GPU 或 NPU 等硬件,而不是将数据发送到 ChatGPT 和 Claude 等第三方云服务。

Altman 主张本地 AI 会导致大量可用内存闲置。他表示有限的 RAM 分散在用户电脑中,但使用率仅为 5%。在他看来,将内存集中在数据中心可以更好地利用稀缺的全球资源。

他的立场假设数据中心建设和扩建将继续进行,也假设在这些设施中连续运行的 RAM 比安装在用户设备中的内存能提供更多价值。

OpenAI 的商业模式站在争议背后

OpenAI 发布过多个开源模型,但其核心业务仍然基于在数据中心运行的闭源模型。这使得本地推理不仅仅是技术选择:它可能影响用户如何获取和支付 AI 模型。

Tom's Hardware 将 Altman 的言论描述为对 OpenAI 商业模式的辩护。其观点是个人电脑目前不会威胁 OpenAI,但本地推理可能会降低用户为 GPT-6 Luna 等模型支付的费用。

因此这场争议涵盖两种相互竞争的方式。本地模型在用户硬件上进行处理,云模型将计算和内存放在供应商所有的数据中心,公司可以管理共享容量并收取访问费用。

内存供应增加压力

AI 基础设施公司正在签订长期合同以确保内存供应。美光已签署 26 项战略协议,覆盖其到 2030 年预计收入的 35% 以上,客户预付款达 320 亿美元。

三星据报正在完成合同,覆盖其到 2027 年预计内存芯片产量的 75–80%。SK 海力士也在追求类似的协议。

这个周期与芯片需求高峰期的早期阶段不同。制造商之前扩建工厂,然后随着需求冷却而面临产能过剩。这次他们多次提价,而不是大幅增加产能,使供应量低于需求并延长价格压力。

分析师预计内存芯片短缺至少持续到 2028 年。这给制造商带来更强的谈判权,同时公司争夺未来产能。

为何电脑价格很重要

The Verge 的 Steve Bonifield 表示,无论 Altman 指的是用户个人电脑还是 AI 应用开发者使用的设备,结果都是相似的。在他看来,公司在 RAM 订单上花费的数十亿美元正在帮助让电脑、手机和其他技术变得更加昂贵。

这一论证使本新闻的意义超越了 OpenAI。它将本地 AI、云计算、内存分配和硬件价格联系在一起。权衡本地模型与云服务的读者可以清晰看到这种平衡:本地推理使用用户已拥有的硬件,而云推理将需求集中在现在激烈竞争稀缺内存的数据中心。

所属主题行业与商业
分享

喜欢这篇文章吗?

点赞告诉编辑,或收藏以便稍后阅读。

评论

登录后参与讨论。

登录

    还没有评论,来抢沙发吧。

    全部新闻

    确定吗?