ローカルLLM 報道
8,000億パラメーター級のAIを手元のMacで、無料アプリ「WiCi Infer」公開 SSDから必要な部分だけ読み込む新エンジン、8GBのPCでも中型モデル
カテゴリ: ローカルLLM
執筆: KEN TECH TIMES 編集部
約4分で読めます
読みやすさ:「超やさしい」はAIが本文を噛み砕いて書き換えます(数字・固有名詞は原文のまま)。
この記事の根拠出典を明記図表に出典あり理由を見る
- 🔗出典を明記出典: AndroidGuys(2026年11月17日)
- ▦図表に出典あり図表1点すべてに出典(AndroidGuysなど)を明記
記事の出典と本文から、確認できた根拠だけを表示しています(確認できないものは表示しません)。内容の正しさや立場の良し悪しを判定するものではありません。
要点「無線GPU」を手がける米スタートアップWiCiが、巨大なAIモデルを手元のパソコンで動かせる無料のMac用アプリ「WiCi Infer」を公開した。オープンソースのエンジン「InferSSD」が、モデル全体をメモリーに載せる代わりに、その瞬間に必要な部分だけをSSDから読み込むことで、約8,000億パラメーター級のモデルも一般向けの機器で動かせるという。
この記事のポイント
- 「無線GPU」を手がける米スタートアップWiCiが、巨大なAIモデルを手元のパソコンで動かせる無料のMac用アプリ「WiCi Infer」を公開した。
- オープンソースのエンジン「InferSSD」が、モデル全体をメモリーに載せる代わりに、その瞬間に必要な部分だけをSSDから読み込むことで、約8,000億パラメーター級のモデルも一般向けの機器で動かせるという。
- 米メディアのAndroidGuysが11月17日に報じた。
イラスト: KEN TECH TIMES(イメージ)
「世界初の無線GPU」をうたう米スタートアップWiCiが、巨大なAIモデルを自分のパソコンで動かせる無料のデスクトップアプリ「WiCi Infer」を公開した。米メディアのAndroidGuysが11月17日に報じた。アプリの中心は、オープンソース(設計図が公開されたソフト)の推論エンジン「InferSSD」で、ローカルLLM(ネットにつながずに手元で動かすAI)の最大の壁だった「メモリー不足」を回り道で解決するという。
モデル全体をメモリーに載せない
これまでの多くのローカルAIの道具は、動かす前にモデル全体をメモリー(RAMやGPUのメモリー)に読み込む必要があった。そのため、数千億パラメーター(AIの知識の細かさを表す数)の巨大モデルを動かすには、とても高価な機材が必要だった。
InferSSDは、最近の大型モデルに多い「専門家(エキスパート)」と呼ばれる部品の集まりでできた構造に注目し、その瞬間に使う専門家の部分だけをSSDから直接読み込む。どの部品を呼ぶかを決める仕組みに合わせて読み込みを流し、CPUとGPUの割り振りもその場で調整する。その結果、7,630億パラメーターの「DeepSeek V4.1 Flash」や、8,160億パラメーターの「Muse Spark Open」といった約8,000億パラメーター級のモデルを、一般向けの機器で、追加の圧縮なしに動かせるとしている。小さめの「Qwen3(350億パラメーター)」なら、メモリー8GBのパソコンでも動くという。
速さは定番ツールの最大17.8倍
WiCiの社内テストでは、定番のローカルAIツール「llama.cpp」と比べて大きく速かった。メモリー48GBの「M5 Max」搭載MacBook ProでMuse Spark Openを動かした場合、文章を生み出す速さはllama.cppの6.2倍。メモリー128GBのNVIDIA「DGX Spark」では17.8倍で、1秒あたり2.14トークン(llama.cppは0.12トークン)だった。結果はモデルや機材、設定によって変わるが、どの構成でも差は一貫していたという。
アプリには、対応モデルを探してダウンロードできる画面とチャット画面が付く。ほかのアプリから手元のモデルを呼び出せる窓口(API)もあり、Claude Codeのように独自のモデルの接続先を設定できるツールなら、作業の流れを変えずにつなげられる。macOS向けに無料で配布され、月額料金やログインは不要だ。さらに性能が欲しい人向けには、Wi-Fi経由でパソコンにNVIDIAのGPUの力を足す機器「WiCi One」も用意している。
手元でAIを動かす機材としては、当サイトのNVIDIA「RTX Spark」の小型デスクトップも伝えている。なお数値はWiCiの社内テストによるもので、第三者による検証結果はまだ出ていない。

ロボとペラの用語解説ネットの向こうのサーバーではなく、自分のパソコンの中で動かすAIのことだよ。会話の内容が外に出ないのが良いところなんだ。
AIの中にある調整用の数値のことだよ。数が多いほど物知りになりやすいけど、動かすのに大きなメモリーが必要になるんだ。
大きなAIの中を得意分野ごとの小さな部品に分けたものだよ。質問に合わせて一部の専門家だけが働くんだ。
手元のパソコンでAIを動かすために広く使われている、無料の定番ソフトだよ。
用語辞典でほかの言葉も見る
編集部の考察
WiCi Inferは、「巨大なAIは高価な機材がないと動かない」という常識を、メモリーではなくSSDを使うという発想で崩そうとする前向きな挑戦です。SSDは今や多くのパソコンに大容量で入っているため、使う部分だけを読み込む方式が実用的になれば、手元でAIを動かす人の裾野は一気に広がります。DGX Sparkで毎秒2.14トークンという速さは会話には少しゆっくりですが、llama.cppの0.12トークンと比べれば、これまで事実上動かなかったモデルが「待てば使える」段階に来たことを意味します。当サイトの「NVIDIA「RTX Spark」の小型デスクトップがASUS・Dell・MSIから発売」で伝えた機材の進化と組み合わさることで、個人や小さな会社が大型モデルを手元で扱う時代が近づいています。今後は第三者による速度の検証と、SSDへの負担がどの程度かが注目点です。
出典:
AndroidGuys(2026年11月17日)
本記事は上記出典の報道内容をもとに、事実関係を日本語で再構成したものです。
執筆者・運営: KEN TECH TIMES 編集部(KEN TECH TIMES)/記事の誤りのご指摘は訂正方針をご覧ください
本記事はアフィリエイトプログラムによる収益を得ている場合があります
よくある質問
QWiCi Inferは無料ですか?
AmacOS向けに無料で配布されており、月額料金やログインは不要と報じられています。
Qどれくらい大きなモデルを動かせますか?
A7,630億パラメーターのDeepSeek V4.1 Flashや8,160億パラメーターのMuse Spark Openなど、約8,000億パラメーター級のモデルを動かせるとしています。
Qメモリーが少ないパソコンでも使えますか?
A350億パラメーターのQwen3のような小さめのモデルなら、メモリー8GBの機器でも動くとWiCiは説明しています。
Q速さの数字は信頼できますか?
Allama.cppの最大17.8倍という数字はWiCiの社内テストによるもので、第三者の検証結果はまだ出ていません。
答えはこの記事の本文と出典の範囲で書いています。


ロボとペラに質問する
この記事の内容について、AIが記事の中から探して答えます。記事に書かれていない内容には答えられません。
例:
理解度クイズ
この記事の内容から3問出題します。答えを選ぶと、その場で正解と解説が出ます。
関連記事
ローカルLLM公式
同じローカルLLMの記事です
Cloudflareは11月18日、レシートや請求書などから必要な情報を抜き出すことに特化したAIモデル「Clairic」の新版と、90億パラメーターの軽量版「Clairic-flash」を発表した。どちらもモデルの中身(重み)をHugging Faceで公開し、手元のサーバーでも動かせる。PDFの読み取りに新たに対応し、応答は1秒未満だという。
ローカルLLM公式
同じローカルLLMの記事です
Googleは11月17日、オープンモデル「EmbeddingGemma 2」の技術報告書を公開した。文字だけを扱っていた前の版から、画像・音声・動画とその組み合わせまで1つの“意味の空間”に変換できるようになり、モデル本体もよりコンパクトにしたという。
ローカルLLM報道
同じローカルLLMの記事です
中国のMoonshot AI、Tencent、Alibabaが、サイバー攻撃に使える能力を意図的に弱めた新しいAIモデルを相次いで公開した。誰でもダウンロードできるオープンなモデルも含まれる。Zhipu AIも最も危険な能力を本人確認の後ろに置く方針で、中国の主要4社が約3週間で同じ方向に動いた。
ローカルLLM報道図解あり
同じローカルLLMの記事です
動画生成AIで知られる米Runwayが、動画モデルをもとにロボットを動かすAI「Praxis-1」の重み(中身のデータ)と実行・追加学習用のコードを、商用利用もできるApache 2.0ライセンスで公開した。パラメーター数は272億で、80GBのGPU1枚で動くという。
ローカルLLM報道図解あり
同じローカルLLMの記事です
NTTは11月16日、調べたいプログラムのソースコードを外部のAIサービスに送らず、自社で管理する環境の中だけで脆弱性(セキュリティの弱点)を分析できるAI技術を開発したと発表した。複数のオープンウェイトモデルと独自の手順を組み合わせ、評価テストでの成功率を48%から63%に高めた。