kimi-k3-in-cは、2兆7800億パラメータの言語モデル「Kimi K3」を単一CPU上で実行するオープンソースの推論エンジンです。C99規格で実装されており、BLASライブラリや外部フレームワーク、GPUを必要としません。約1.56TBのモデルチェックポイントから層を順次ストリーミングして処理する設計により、8.24GBのメモリ消費量で推論を処理します。高価な計算資源を持たずに超大規模モデルの推論挙動を検証したい開発者や、低レベルでの推論エンジン設計を研究するエンジニアに適しています。外部依存が存在しないため、Cコンパイラがある環境へ容易に導入できます。