Sam Altman: RAMはデータセンターにあるべき、PCにはいらない

Sam Altman: 「RAMがユーザーのコンピュータの中にあるのは残念だ」というコメントは、OpenAIがAIモデルをローカルで実行することに対する議論を示しています。同社のCEOは、貴重なメモリはパーソナルコンピュータで未使用のままではなく、データセンターに供給されるべきだと述べています。

Altmanは、YouTubeチャネルCheeky Pintとのインタビュー中にこのコメントを述べました。このインタビューは10月30日に公開されました。彼は、オープンソースモデルがパーソナルコンピュータで実行されることでクラウドサービスへの依存を減らそうとする人々に対応していました。

Altmanがローカル推論に反対する理由

ローカル推論は、訓練されたAIモデルをデバイス上で直接実行します。処理はコンピュータやスマートフォンのCPU、GPU、NPUなどのハードウェアを使用でき、ChatGPTやClaudeなどのサードパーティクラウドサービスにデータを送信する必要がありません。

Altmanは、ローカルAIが利用可能なメモリの大部分を未使用のままにしておくと主張しました。彼は、制限されたRAMはユーザーのコンピュータ全体に分散しているものの、1日のわずか5%の時間しか使用されていないと述べています。彼の見方によれば、メモリをデータセンターに集中させることで、世界的に貴重なリソースをより効果的に活用できます。

彼の立場は、データセンターの建設と拡張が継続すると仮定しています。また、これらの施設でRAMが継続的に動作することが、ユーザーのデバイスにインストールされているメモリよりも大きな価値を提供するという仮定も持っています。

OpenAIのビジネスモデルがこの議論の背後にある

OpenAIはいくつかのオープンソースモデルをリリースしていますが、その中核事業は引き続きデータセンターで実行されるクローズドモデルに基づいています。これはローカル推論を単なる技術的選択以上のものにしています。ユーザーがGPT-6 LunaなどのAIモデルにアクセスして支払う方法に影響を与える可能性があります。

Tom's HardwareはAltmanのコメントをOpenAIのビジネスモデルの擁護と説明しました。その見方は、パーソナルコンピュータは現在OpenAIに脅威を与えていないが、ローカル推論はユーザーがモデルに支払う額を減らす可能性があるというものです。

したがって、この議論は2つの競争するアプローチをカバーしています。ローカルモデルはユーザーのハードウェア上で処理を保持します。クラウドモデルは、コンピューティングとメモリをプロバイダー所有のデータセンターに配置し、企業が共有容量を管理してアクセスに対して料金を請求できるようにします。

メモリ供給が圧力を加える

AI基盤企業は、メモリ供給を確保するために長期契約を締結しています。Micronは2030年までの予想収益の35%以上をカバーする26の戦略的契約を締結しており、320億ドルの顧客デポジットをコミットしています。

Samsungは2027年までの予想メモリチップ生産の75～80%をカバーする契約を最終化していると報告されています。SK Hynixも同様の契約を追求しています。

このサイクルは、高いチップ需要の以前の時期と異なります。メーカーは以前、工場を拡張した後、需要の低下に直面して過剰供給に直面していました。今回は、容量を大幅に増加させるのではなく複数回価格を引き上げ、供給を需要以下に保ち、価格圧力を延長しています。

アナリストは、メモリチップの不足が少なくとも2028年まで続くと予想しています。これにより、メーカーはより大きな交渉力を得ながら、企業が将来の生産に対して競争します。

コンピュータの価格が重要である理由

The VergeのSteve Bonifieldは、AltmanがユーザーのパーソナルコンピュータまたはAIアプリケーション開発者が使用するデバイスを意図したかどうかに関わらず、結果は同じだと述べています。彼の見方では、企業がRAM注文に費やした数十億ドルは、コンピュータ、スマートフォン、その他の技術をより高価にするのを助けています。

この議論はこのニュースをOpenAIを超えて関連性があります。ローカルAI、クラウドコンピューティング、メモリ割り当て、ハードウェア価格を接続しています。ローカルモデルとクラウドサービスの間で重みを量っている読者は、トレードオフを明確に見ることができます。ローカル推論はユーザーがすでに所有しているハードウェアを使用しながら、クラウド推論は現在貴重なメモリを積極的に競争しているデータセンターの需要を集中させます。