colibriは、大規模MoE（Mixture-of-Experts）モデルを一般PCで動作させるオープンソースの階層的推論エンジンです。C言語で実装されており、CUDAおよびVulkanバックエンドに対応します。GPU VRAM、システムRAM、NVMe SSDを階層メモリとして扱い、頻出エキスパートをVRAMに保持しつつ、低頻度エキスパートをストレージから順次読み出して推論を実行します。エンタープライズ向けGPU環境を持たない開発者でも、数百B規模のモデルを25GB程度のRAM環境でローカル実行できます。全重みをVRAMへ常駐させる構成と異なり、ストレージI/Oを活用したメモリ管理によってハードウェア要件を抑えています。