ローカルLLM 報道
引退した業務用GPU「V100」3枚、約1,042ドルの自作機でAI「Qwen 3.6 35B」が毎秒約100語 長い文章では5,399ドルのMac Studioを上回ると海外で話題
カテゴリ: ローカルLLM
執筆: KEN TECH TIMES 編集部
約4分で読めます
この記事を聴く
音声は公式マスコット「ロボ」の声で、記事の要点を読み上げています。文字で読みたい方は、このまま下の本文をお読みください。
読みやすさ:「超やさしい」はAIが本文を噛み砕いて書き換えます(数字・固有名詞は原文のまま)。
この記事の根拠出典を明記図表に出典あり理由を見る
- 🔗出典を明記出典: Tom's Hardware(2026年11月19日)
- ▦図表に出典あり図表1点すべてに出典(Tom's Hardwareなど)を明記
記事の出典と本文から、確認できた根拠だけを表示しています(確認できないものは表示しません)。内容の正しさや立場の良し悪しを判定するものではありません。
要点データセンターで使われなくなったNVIDIAの業務用GPU「Tesla V100」3枚を使い、約1,042ドルで組んだ自作機で、AIモデル「Qwen 3.6 35B」が毎秒約100トークンで動いたと米Tom's Hardwareが11月19日に報じた。長い文章を読み込ませた条件では、5,399ドルのMac Studio(M5 Max)を上回ったという。海外の掲示板Redditでも話題になっている。
この記事のポイント
- データセンターで使われなくなったNVIDIAの業務用GPU「Tesla V100」3枚を使い、約1,042ドルで組んだ自作機で、AIモデル「Qwen 3.6 35B」が毎秒約100トークンで動いたと米Tom's Hardwareが11月19日に報じた。
- 長い文章を読み込ませた条件では、5,399ドルのMac Studio(M5 Max)を上回ったという。
- 海外の掲示板Redditでも話題になっている。
画像: イメージイラスト(KEN TECH TIMES)
「電子ゴミ(e-waste)」とも呼ばれる古い業務用GPUで、最新のAIを手元で快適に動かせる——そんな検証結果が海外で話題になっている。米Tom's Hardwareは11月19日、データセンターで使われなくなったNVIDIAのTesla V100を3枚使った自作機で、AIモデル「Qwen 3.6 35B」が毎秒約100トークン(AIが文字を出す単位。1トークンはだいたい1語前後)で動いたと報じた。かかった費用は約1,042ドルだという。
9通りの組み合わせで130以上のテスト
検証したのは、自宅にサーバーを置いて楽しむ「ホームラボ」の愛好家だ。ブログ記事「Scaling ‘E-Waste’」で、古いGPUのK80・P100・V100(16GB)をそれぞれ1〜3枚挿した9通りの構成を、同じSupermicro製のマザーボード(Xeon 2基)で比べた。手元でAIを動かす無料ソフト「llama.cpp」を使い、QwenやGemma 4など130以上のテストを、読み込ませる文章の長さ4K〜128Kで実施した。結果は掲示板Redditのホームラボ向けコミュニティにも投稿されている。
目標は、会話がスムーズに感じられる毎秒70トークン。主役のQwen 3.6 35Bは、データを8ビットに圧縮した形(Q8)ではGPU1〜2枚ではメモリーが足りず動かないため、3枚構成になった。なお、費用の1,042ドルにはCPUは1基分しか入っておらず、メモリー・保存装置・ケース・冷却は含まれていない。V100は冷却装置なしで売られ発熱が大きいため、制作者は1枚ずつ送風用の部品を3Dプリンターで作ったという。
短い文章で毎秒100.8、長い文章でも72.7
Qwen 3.6 35Bは、350億の部品(パラメーター)のうち1回に約30億だけを使う「MoE」という効率のよい作りのモデルだ。読み込ませる文章が短い4Kの条件では毎秒100.8トークン、最長の128Kでも毎秒72.7トークンと目標を超えた。一方、全部の部品を毎回使う作りのQwen 3.6 27Bは、4Kで毎秒24.3、128Kで毎秒14.2にとどまり、MoEのほうが4〜5倍速かった。
V100はひとつ前の世代のP100に比べ、同じ作業での電力消費が約半分だった。P100の3枚構成では、同じモデルで毎秒40.2〜55.2にとどまった。
最新のMacやDGX Sparkとの比較
Tom's Hardwareは、ほかの公開データと比べた。最新のMac Studio(M5 Max、40コアGPU・128GBメモリー・1TBで5,399ドル)は短い文章ではわずかに速いが、64K以上の長い文章ではV100の3枚構成が上回るという。NVIDIAの小型AI機「DGX Spark」(希望小売価格4,700ドル)と比べても健闘した。ただし、GPUを増やして増えるのはメモリーの量で、大きなモデルを動かせるようになるが、速さそのものは上がらないとも指摘している。
手元でAIを動かす試みは、当サイトの「8,000億パラメーター級のAIを手元のMacで」やPS4でAIを動かした話でも紹介している。
V100×3枚でのAIの速さ(Q8、毎秒トークン)数値を表で見る
図のポイント4つの項目を比べた棒グラフです。いちばん大きいのは「Qwen 3.6 35B(4K)」の100.8、いちばん小さいのは「Qwen 3.6 27B(128K)」の14.2です。
かっこ内は読み込ませた文章の長さ。目標は毎秒70トークン出典: Tom's Hardware(2026年11月19日)をもとにKEN TECH TIMES編集部作成

ロボとペラの用語解説AIが文章を読んだり書いたりするときの小さな区切りのことだよ。だいたい1語くらいだと思えばいいよ。
たくさんの専門家チームのうち、質問に合う一部だけを呼び出して答える作りのAIだよ。全員を毎回働かせないから速いんだ。
AIの中の数字を細かさを少し落として小さくする工夫だよ。メモリーが少なくても動かせるようになるんだ。
用語辞典でほかの言葉も見る
編集部の考察
使われなくなった業務用GPUが、工夫しだいで最新のAIを快適に動かせるという結果は、手元でAIを動かしたい人にとって選択肢を大きく広げる前向きな話です。当サイトが伝えた「8,000億パラメーター級のAIを手元のMacで」がソフトの工夫でハードの壁を越えたのに対し、今回は中古部品の組み合わせという別の方向から同じ目標に近づいています。特に、MoEという効率のよいモデルの作りが速さを4〜5倍に引き上げた点は、モデル選びが機械選びと同じくらい大事になってきたことを示しています。もちろん、電気代や発熱、冷却部品の自作といった手間はかかり、誰でも気軽にまねできるわけではありません。それでも、高価な最新機を買わなくてもAIを自分の手元で動かせる道が増えていることは、データを外に出さずにAIを使いたい人や学習目的の人にとって大きな意味があります。
執筆者・運営: KEN TECH TIMES 編集部(KEN TECH TIMES)/記事の誤りのご指摘は訂正方針をご覧ください
本記事はアフィリエイトプログラムによる収益を得ている場合があります
よくある質問
QV100とはどんなGPUですか?
ANVIDIAのデータセンター向けGPU「Tesla V100」で、使われなくなったものが中古で出回っています。冷却装置なしで売られ、発熱が大きいとされています。
Q1,042ドルで全部そろうのですか?
Aそろいません。この金額にはCPU1基分などが含まれ、メモリー・保存装置・ケース・冷却は入っていないとされています。
Q最新のMac Studioより速いのですか?
A短い文章ではMac Studio(M5 Max)がわずかに速く、64K以上の長い文章ではV100の3枚構成が上回るとTom's Hardwareは伝えています。
答えはこの記事の本文と出典の範囲で書いています。


ロボとペラに質問する
この記事の内容について、AIが記事の中から探して答えます。記事に書かれていない内容には答えられません。
例:
理解度クイズ
この記事の内容から3問出題します。答えを選ぶと、その場で正解と解説が出ます。
関連記事
1
ローカルLLM公式
この記事でも出てきた「ローカルLLM」の記事です
Salesforceは、音声を文字に起こすオープンウェイトモデル「SOV-Transcribe-1」をApache 2.0ライセンスで公開した。アクティブ40億・総260億パラメータの構成で、Artificial Analysisの評価ではオープンウェイトモデルの中で1位だという。
2
ローカルLLM公式
この記事でも出てきた「ローカルLLM」の記事です
ローカルLLMを動かす定番ソフト「llama.cpp」と、土台のテンソルライブラリ「ggml」がバージョン1.0.0になった。開発元のggml-orgは、今後APIやABIに互換性のない変更を加える場合はメジャー番号を上げると表明した。
3
AI全般報道図解あり
この記事でも出てきた「Qwen」の記事です
中国Alibabaは、同社最大のAIモデル「Qwen4-Max」を発表した。パラメータ数は2.4兆、一度に読める量は100万トークンで、自社テストでは1作業あたりの費用を4.43ドルから1.67ドルに下げた。一方、米調査会社Artificial Analysisの独立評価では主要10モデル中9位にとどまった。
4
ローカルLLM報道
この記事でも出てきた「NVIDIA」の記事です
NVIDIAのジェンスン・フアンCEOの辞任を受け、同社がこれまでのようにオープンウェイトAIを支援し続けるのかを疑問視する声が出ている。130億ドルのHugging Face買収はまだ完了しておらず、開発中のNemotronシリーズの行方にも注目が集まる。
5
ゲーミングPC報道図解あり
この記事でも出てきた「NVIDIA」の記事です
NVIDIAのグラフィックドライバー「621.14」以降で、パソコンを使っていないときでもSSDに大量のデータが書き込まれる不具合が報告されていると米Tom's Hardwareが報じた。1時間に約3GB、新しい621.24では最大約30GBとの報告もあり、NVIDIAは不具合を認めておらず修正版もまだない。