开源项目 colibri 登上 GitHub 热榜,星数达 41,248(本次核验时数据)。它是一个用纯 C 编写、零依赖的混合专家(MoE)模型推理引擎:把模型中每个词元都用到的密集部分放进内存,路由专家留在磁盘上、被…
快讯·10月12日