Meta AIの発表内容

開発者のabhi245y氏が、ゲーム機「PlayStation 5」上でMeta AIの「Llama 3.2」を実行するアプリ「PS5LM Plus」をGitHubで公開しました。本体のGPU(画像処理半導体)を活用して言語モデルを処理します。

アプリは12GiB(ギガバイト)のメモリ領域を直接使って動作します。外部接続したUSBから読み込んだMeta AIの「Llama 3.2 3B Instruct」では、毎秒124トークンの生成速度を記録しました。

本体の画面に動作状況を表示するほか、同じネットワーク内のパソコンからもWebブラウザ経由で操作できます。OpenAIやAnthropicと互換性を持つAPI(連携用インターフェース)も備えています。

開発ツールの「Claude Code」や「aider」と連携できるため、端末を自前の開発用サーバーとして活用できます。

つまり、どういうこと?

ひらたく言うと、家庭用ゲーム機の頭脳を丸ごと借りて、自分専用のAIアシスタントを動かす仕組みです。

高価なパソコンを新しく用意しなくても、ゲーム機をAI専用の計算機に仕立て上げられます。ネットワークでつなげば、仕事用のパソコンから普段通りに呼び出せます。

編集部の見方

ゲーム機でMeta AIの「Llama 3.2」が毎秒124トークンで動くという記録には、筆者もかなり驚きました。

特殊な改造が前提となるため、オフィスの業務端末としてそのまま導入するのはさすがに現実的ではありません。運用の難度は高めです。ただ、使わなくなった機器を手元の検証用サーバーとして転用する用途なら、面白い選択肢になりそうです。

家庭用ハードウェアをローカルAIの基盤として再利用する試みは、今後も個人の開発者を中心に広がりを見せるはずです。次はオープンソースのドライバ改善により、より大きなモデルでどこまで速度を維持できるかに注目しています。

誰に関係するか

「Claude Code」や「aider」などの開発ツールを使っている人は、PS5を自前のAPIサーバーとして接続できるようになります。

出典: GitHub ↗/ GIGAZINEも報道