text-generation-webui は TextGen へ
oobabooga 氏が開発する本ソフトは、リポジトリが github.com/oobabooga/textgen に移り、プロダクト名も「TextGen」へと改められました。かつての Gradio ベースの Web UI から、ローカル LLM を動かすためのデスクトップアプリへと作り直され、「テレメトリなし・完全オフライン」をうたう構成です。外部リソースへの問い合わせやリモート更新リクエストもゼロになっています。
主要機能
ダウンロードして解凍し、textgen をダブルクリックすれば約1分で起動します。Windows / macOS / Linux 向けのポータブルビルド（CUDA / Vulkan / ROCm / CPU-only）が用意され、依存関係は同梱、GGUF（llama.cpp）モデルと互換です。instruct・chat-instruct・chat の各モードに加え、Jinja2 テンプレートによる自動整形、画像添付による Vision、テキスト/PDF/.docx のファイル添付、メッセージ編集や会話の分岐にも対応します。バックエンドは llama.cpp / ik_llama.cpp / Transformers / ExLlamaV3 / TensorRT-LLM を再起動なしで切り替えられます。OpenAI・Anthropic 互換 API（tool-calling 対応）を備え、Web 検索やページ取得などのカスタム関数（.py 1ファイル単位）、MCP サーバー、LoRA ファインチューニング、diffusers モデルによる画像生成タブも利用できます。
想定ユーザー
クラウドに送らず手元で LLM を動かしたい個人や開発者に向きます。OpenAI/Anthropic 互換 API のドロップイン代替として既存アプリへつなぎたい人や、LoRA で自前データを学習させたい人にも適しています。
