7つのモデル規模と学習版の展開

Qwen2.5は、0.5B、1.5B、3B、7B、14B、32B、72Bの7種類のパラメータ規模で構成される言語モデル群です。すべての規模において、基幹となる事前学習版(Base)と、対話や指示追従向けに調整された指示調整版(Instruct)の双方が提供されています。テキスト生成タスク全般に対応し、用途に応じた規模選択が可能です。

GGUF・AWQ・GPTQによる量子化形式の網羅

各モデルの標準重みに加えて、公式の量子化モデルを配布しています。CPU推論やローカル環境に適したGGUF形式、GPU推論を効率化するAWQ形式、GPTQ形式(Int4・Int8)が各サイズで用意されています。追加の変換作業を挟まず、端末のメモリ容量や推論ハードウェアに応じた形式をそのまま導入できます。

導入環境に合わせた規模選定と対象者

省リソース環境には0.5Bから3B、デスクトップGPUでの運用には7Bから14B、高精度な推論サーバーの構築には32Bや72Bが適しています。オープンな重みを用いてローカル推論環境を構築したい開発者から、自社インフラ上でテキスト生成基盤を運用する企業に適しています。