LocalAIは、文章、音声、画像認識、画像・動画生成、3D、エージェントの処理を1つのオープンな実行環境で動かすためのソフトウェアです。MITライセンスのオープンソースで、GitHubのスター数は49,305です。手持ちのノートPCから始めてデータを自分のハードウェアに置いたまま運用し、必要になればGPUを積んだ複数台へ広げられます。
OpenAI互換のAPI
1つのバイナリがOpenAI互換のAPIを提供し、Anthropic、Ollama、ElevenLabsのAPI形式にも対応します。既存のクライアントは接続先のURLを変えるだけで、モデルが手元のマシンで動くようになります。裏側のエンジンはllama.cpp、vLLM、SGLang、MLXなどから選べ、モデルの設定を1行変えるだけで切り替えられます。エンジンは必要になったときだけバックエンドとして取り込むため、基本のインストールは小さく保たれます。
主な機能
- 言語モデル、ツール呼び出し、構造化出力
- リアルタイム音声、文字起こし、話者分離、音声合成と声のクローン
- 物体検出、深度推定、3D再構成などの画像認識
- 画像・動画・音楽の生成
- エージェント、MCP、スキル、RAG
- 1,255のモデルを収めたギャラリーからワンクリックで導入
すべての機能でCPUで動く経路を先に用意しており、GPUは速くするためのもので必須ではありません。複数台をつなぐと、空きVRAMやキャッシュの状況を見て処理を振り分けます。CLIに組み込まれたエージェントは、承認を挟んでシェルコマンドを実行し、MCPサーバーやプラグインを読み込めます。
導入
Dockerなどのコンテナ、macOSのDMG、Linuxのバイナリ、KubernetesのHelmチャートで導入でき、インストールスクリプト1行で始められます。ソフトウェアの利用は無料です。
