™colibri 登 GitHub 热榜：纯 C 引擎在普通电脑跑 744B 模型
开源项目 colibri 登上 GitHub 热榜，星数达 41,248（本次核验时数据）。它是一个用纯 C 编写、零依赖的混合专家（MoE）模型推理引擎：把模型中每个词元都用到的密集部分放进内存，路由专家留在磁盘上、被点名时再读入，让数千亿参数的大模型在普通电脑上运行，不要求配备 GPU。
发生了什么
colibri 于 2026 年 7 月 1 日在 GitHub 建仓，已发布 20 个版本，采用 Apache-2.0 许可证。项目自述的思路是：MoE 模型在磁盘上体积大，但每个词元实际只用到其中一小部分。以 GLM-5.2 为例，模型总参数 744B，每个词元约激活 40B，其中随词元变化的路由专家部分约 11GB。colibri 因此把注意力、共享专家和词嵌入等密集部分常驻内存，路由专家存放在磁盘上，通过一个会学习使用习惯的缓存按需读取；有 GPU 时，GPU 存放最热的专家和密集层。
项目目前有 13 个引擎，覆盖 GLM-5.2/5.3、Kimi K3、DeepSeek V4 Flash（284B）、MiMo-V2.6 Flash、Qwen3.6 等模型；最低 8GB 内存即可启动，最小的模型需要 22GB 磁盘空间。项目给出的实测数据：GLM-5.2 在 128GB 内存的 Ryzen AI Max+ 395 上为 1.83 个词元/秒，在 6 张 RTX 5090 上为 9.0–9.2 个词元/秒。colibri 同时提供与 OpenAI、Anthropic 兼容的接口和 MCP 服务器。
关键事实
- 热度：GitHub 星数 41,248、复刻数 4,545（本次核验时数据），登上 GitHub 热榜。
- 常驻内存：GLM-5.2（744B 参数、int4）运行时常驻约 9.9GB，每个词元约激活 40B 参数。
- 硬件门槛：最低 8GB 内存，GPU 可选；支持 CUDA、Vulkan 和 Apple Silicon 等后端。
为什么重要
colibri 把 744B 参数 MoE 模型的常驻内存压到约 9.9GB，8GB 内存的电脑即可启动这类模型，此前这类模型通常需要服务器级显存或内存配置。
相关公司智谱