llama.cpp 发布 1.0 版
llama.cpp 11 月 13 日发布 1.0.0 版,底层张量库 ggml 同步升至 1.0.0:破坏公开接口的改动只随主版本号升级,清理 35 个已弃用函数,加入 FP8 键值缓存。

发生了什么
llama.cpp 与 ggml 11 月 13 日同步发布 1.0.0 版,这是项目启动约三年半以来首次采用语义化版本号:此前版本以构建编号标记,如 b12359;此后破坏公开 C 语言接口的改动只随主版本号升级,向后兼容的功能与新模型支持随次版本号,缺陷修复随补丁号。
1.0.0 版同时做了一次清理:删除 35 个已弃用函数、预热设置与碎片整理阈值选项,NextN 推测解码接口从扩展头文件移入主头文件 llama.h;ggml 方面删除已弃用接口与旧的 DIAG_MASK 操作,加入可配置的 YaRN 截断与 FP8 支持。
新增功能包括 FP8 键值缓存、面向混合专家模型的主机内存专家缓存,以及 llama-server 针对服务端请求伪造与 DNS 重绑定攻击的加固;项目支持 150 多种模型架构变体,维护团队 2 月加入 Hugging Face,许可证仍为 MIT。
关键事实
- 发布内容:llama.cpp 与底层张量库 ggml 11 月 13 日同步发布 1.0.0 版,项目启动约三年半以来首次采用语义化版本号。
- 版本承诺:此后破坏公开 C 语言接口的改动只随主版本号升级;向后兼容的功能与新模型支持随次版本号,缺陷修复随补丁号。
- 清理内容:删除 35 个已弃用函数、预热设置与碎片整理阈值选项;NextN 推测解码接口移入主头文件 llama.h。
- 新增功能:FP8 键值缓存、混合专家模型的主机内存专家缓存、llama-server 针对服务端请求伪造与 DNS 重绑定攻击的加固。
- 覆盖规模:项目支持 150 多种模型架构变体;上一编号版本为 llama.cpp v0.9.0 与 ggml v0.29.0。
- 团队背景:维护团队 2 月加入 Hugging Face,项目仍采用 MIT 许可证。
为什么重要
llama.cpp 是本地 AI 软件广泛使用的推理引擎,1.0 版把“接口不再随意改动”写成公开承诺,依赖它的应用此后可按版本号判断升级是否会破坏代码。
订阅 HIMIAO视界
不用注册 · 随时退订推送通知
早报出来时,手机或电脑上弹一条提醒。不用留邮箱。
评论
相关新闻
今天
11月15日 星期日- 早报美联储报告:AI 首次成为金融系统头号风险
共 7 条
- 周榜GitHub 周榜 Vol.5:本周 6 个值得看的项目
实测 + 读码,每周一期往期 →
- 三问
- 预测
™