2013年発売のゲーム機PlayStation 4で、90億パラメータ(AIの規模を表す数)の言語AIを動かすアプリが登場した。米Tom's Hardwareが11月16日に報じた。開発者のレオナルド・アレグリア氏がオープンソースで公開した「Garlic LLM」で、Alibabaの公開モデル「Qwen3.5-9B」を、インターネットにつながずにPS4本体のGPUで動かす。
モデルを約4.5GBに縮めてPS4のメモリーに収める
Garlic LLMは、モデルを約4.5GiBまで小さくしてPS4のメモリーに収め、GPUと直接やり取りして計算させる。文字でのやり取りでは毎秒31〜39トークン(AIが文章を作る単位)の速さで動くとしており、チャットとして十分使える速さだ。ただし、どんな質問で測ったかなどの条件は示されていない。名前の「Garlic(ニンニク)」は、GPUが直接読み書きするメモリーの種類の呼び名から取っており、もう1つの種類は「Onion(タマネギ)」と呼ばれる。
音声での会話にも対応する。音声合成モデル「Chatterbox」で7か国語の音声で答え、その際のチャットは毎秒約22トークンで動く。コントローラーのボタンを押している間は、NVIDIAの音声認識モデル「Parakeet TDT 0.6B v3」で欧州の25言語の聞き取りもできる。
改造機が前提、一般の人は試せない
注意したいのは、このアプリが改造したPS4向けだという点だ。非公式のソフトを動かせるようにする「GoldHEN」を入れた本体が必要で、開発者はファームウェア11.52の初代・薄型モデルで動作を確かめた。配布ファイルは5.66GBで、Hugging Faceで無料公開されている。メーカーが認めていない改造は保証の対象外になるなどのリスクがあるため、一般の利用はおすすめできない。
技術的には、PS5で似たことを実現した「PS5LM」が既存の仕組みを移植したのに対し、Garlic LLMは計算用の小さなプログラムを独自に書いてPS4のGPUを直接動かしているのが特徴だ。10年以上前のゲーム機でも、工夫次第で最新の小型AIが動くことを示す例と言える。












