経営

AIを回し続けるなら、トークンより機械を買う──ローカル推論機に数百万円を入れた理由

泉水亮介2026年7月6日

この一週間で、AIを動かすための機械に数百万円を使った。

先に、いちばん大事なことを言っておく。これは「みんな機械を買え」という話ではない。むしろ逆で、ほとんどの人はまだサブスクのままでいい、と僕は思っている。それでも僕は、あえて今、機械に振り切った。その理由の話をする。

トークンを回し続けると、コストは右肩上がりになる

僕はいま、AIを一発の指示で終わらせるのではなく、回し続ける使い方に振り切っている。エージェントに仕事を渡し、検証させ、直させ、また回す。

この回し続けるスタイルは、動かした分だけトークンの従量課金が積み上がる。作業が終われば止まる一時的なコストではなく、稼働している限り発生し続ける恒常コストだ。回す量が増えるほど、月々の請求は右肩上がりになる。

ここで発想が変わった。「使うほど課金される」なら、「使い切れる機械」を先に買ってしまえばいい。

だから僕は「回し切れる機械」を買い増した

僕が買ったのは、大容量メモリを積んだローカル推論機だ。Apple の Mac Studio と、NVIDIA の DGX Spark 系の機械。どちらも、手元でそれなりに大きな言語モデルを動かすことを狙った構成にした。クラウドのAPIに毎回お金を払うのではなく、自分の機械の上でモデルを回す。その回数に、追加の従量課金はかからない。

なぜ「ユニファイドメモリ」の機械なのか

ローカルでLLMを動かすとき、効いてくるのは「モデル全体をメモリに載せられるか」だ。モデルが大きいほど、それを丸ごと置ける広いメモリがいる。

ここで従来のPCがぶつかる壁がある。NVIDIAのグラフィックボードを積む構成だと、モデルを載せるのはGPU専用のメモリ(VRAM)で、これは本体のメインメモリとは別立てだ。そして大容量のVRAMを積んだカードは、とにかく高い。

Apple Silicon はここの作りが違う。CPUとGPUが同じ一つのメモリ(ユニファイドメモリ)を共有する設計で、メインメモリの大きさがそのままモデルを載せられる広さになる。Mac Studio の M3 Ultra は、このユニファイドメモリを最大512GB・メモリ帯域800GB/sまで積める構成だった（Apple/Tom’s Hardware、いずれも2026年7月時点の情報）。大きなモデルを手元で丸ごと回したいなら、ここが一番現実的な入り口になる、と僕は見ている。

そして今回おもしろいのは、NVIDIA が同じ土俵に降りてきたことだ。2025年10月に発売された DGX Spark は、GB10 Grace Blackwell というチップに128GBのユニファイドメモリ(LPDDR5X)を積み、CPUとGPUが同じメモリを共有する構成を採った(NVIDIA公式)。VRAM別立ての世界ではなく、Apple と同じ「一体メモリ」の発想を、Linux向けのAI機として出してきた。

しかもこれは NVIDIA 一社の箱で終わらない。ASUS・Dell・HP・Lenovo・Acer・MSI といったメーカーが同じGB10チップの互換機を出していて、たとえば ASUS Ascent GX10 は約3,266ドルという価格帯で並んでいる（いずれも紹介記事による・2026年7月時点の価格）。「大きなモデルを手元で回す机上マシン」というジャンルが、一気に選べるようになった。

正直、性能はフロンティアモデルに及ばない

ここまで機械を買った話を書いておいて何だが、正直に言う。いま手元のローカルLLMで動かせるAIは、性能でフロンティアモデルにまだ遠く及ばない。

僕はここ最近、ふだん使っているフロンティアモデル（Fable5やOpus、Sonnet、GPT-5.5あたり）の賢さと速さに慣れすぎてしまった。それに比べると、手元で動くローカルLLMは、賢さでもはっきり見劣りする。とくに日本語だ。日本語の扱いまで含めて評価すると、差はさらに開く。

動作も遅い。フロンティアモデルの即応に慣れた身には、待たされる感覚がずっとつきまとう。だから、日々の実務でいちばん賢い答えがすぐ欲しいなら、いまはサブスクのフロンティアモデルを使う方がいい。これは僕自身が両方を触ったうえでの実感だ。

それでも今、機械を確保しておく理由

性能で負けているのに、なぜ今わざわざ機械を買うのか。

理由のひとつは、値段の向きだ。メモリの供給が締まっていて、この手の機械はいま値上がりしている。DGX Spark は発売時の約3,999ドルから、2026年2月に約4,699ドルへ引き上げられた。理由はメモリ供給の制約だと説明されている(Tom’s Hardware)。Apple も、Mac Studio の512GB構成を一度取り下げて256GBを上限にし、増設の値段自体も上げた(Tom’s Hardware)。値段は下がるどころか、はっきり上を向いている（いずれも2026年7月時点で確認できる価格動向であり、以後変動しうる）。

もうひとつは、もっと先を見ての話だ。これからのAIは、計算資源を自分で持っているか持っていないかが、じわじわ効いてくると僕は見ている。モデルの利用料はこの先むしろ上がる方向だと踏んでいるし、自前の計算資源を持てるかどうかは、将来けっこう大きな差になりうる。これは予測なので外れる可能性はある。ただ、そう踏むなら、まだ相対的に安い今のうちに一台押さえて、動かし方に慣れておく価値はある、というのが僕の判断だ。

3年で割ると、僕の場合はどちらが得か

ここからは僕の試算で、僕のワークロードを前提にした数字だ。仮に一台を約130万円として、3年使うつもりで割ると、月あたり約4万円になる。回し続ける前提なら、この月4万円の中に「使い放題」が収まる。同じ量をクラウドのトークン従量で回し続けたら、僕の場合はこれを超える月が普通に出てくる、というのが実感だ。

ただし、この計算は「回し続ける」から成り立つ。たまにしか使わないなら、機械を寝かせるだけで、従量課金の方が確実に安い。しかも、さっき書いたとおり、性能ではフロンティアモデルに及ばない。つまり、コストだけ切り取れば僕の使い方では機械が勝つ地点がある。でも賢さと速さを取るなら、いまはまだサブスクだ。

まとめ：普通の人は、まだ買わなくていい

だから、結論はこうだ。普通の人は、ローカルLLM用の機械をまだ買わなくていい。いまいちばん賢くて速いのはサブスクのフロンティアモデルで、日本語ならなおさらだ。僕はあえて今チャレンジしているが、みんなに勧められる段階ではない。

それでも僕が触っているのは、勉強のためであり、準備のためだ。値段は上がる方向で、計算資源を自分で持てるかどうかは、この先で効いてくると踏んでいる。今から動かし方に慣れておけば、いざ切り替えるべきタイミングが来たときに、サブスクのフロンティアモデルから滑らかに移れる。僕は、その日の準備として機械に投資した。

「買い替えろ」ではない。そういう選択肢が静かに育ちつつあることだけ、頭の隅に置いてもらえればいい。