快讯

快讯·应用与智能体·2026-11-14 20:10

llama.cpp 发布 1.0 版

llama.cpp 11 月 13 日发布 1.0.0 版,底层张量库 ggml 同步升至 1.0.0:破坏公开接口的改动只随主版本号升级,清理 35 个已弃用函数,加入 FP8 键值缓存。

阳光明亮的书桌,笔记本电脑屏幕显示代码
llama.cpp 发布 1.0.0 版。图为 AI 生成示意图。

发生了什么

llama.cpp 与 ggml 11 月 13 日同步发布 1.0.0 版,这是项目启动约三年半以来首次采用语义化版本号:此前版本以构建编号标记,如 b12359;此后破坏公开 C 语言接口的改动只随主版本号升级,向后兼容的功能与新模型支持随次版本号,缺陷修复随补丁号。

1.0.0 版同时做了一次清理:删除 35 个已弃用函数、预热设置与碎片整理阈值选项,NextN 推测解码接口从扩展头文件移入主头文件 llama.h;ggml 方面删除已弃用接口与旧的 DIAG_MASK 操作,加入可配置的 YaRN 截断与 FP8 支持。

新增功能包括 FP8 键值缓存、面向混合专家模型的主机内存专家缓存,以及 llama-server 针对服务端请求伪造与 DNS 重绑定攻击的加固;项目支持 150 多种模型架构变体,维护团队 2 月加入 Hugging Face,许可证仍为 MIT。

关键事实

  1. 发布内容:llama.cpp 与底层张量库 ggml 11 月 13 日同步发布 1.0.0 版,项目启动约三年半以来首次采用语义化版本号。
  2. 版本承诺:此后破坏公开 C 语言接口的改动只随主版本号升级;向后兼容的功能与新模型支持随次版本号,缺陷修复随补丁号。
  3. 清理内容:删除 35 个已弃用函数、预热设置与碎片整理阈值选项;NextN 推测解码接口移入主头文件 llama.h。
  4. 新增功能:FP8 键值缓存、混合专家模型的主机内存专家缓存、llama-server 针对服务端请求伪造与 DNS 重绑定攻击的加固。
  5. 覆盖规模:项目支持 150 多种模型架构变体;上一编号版本为 llama.cpp v0.9.0 与 ggml v0.29.0。
  6. 团队背景:维护团队 2 月加入 Hugging Face,项目仍采用 MIT 许可证。

为什么重要

llama.cpp 是本地 AI 软件广泛使用的推理引擎,1.0 版把“接口不再随意改动”写成公开承诺,依赖它的应用此后可按版本号判断升级是否会破坏代码。
有用 这篇对你有帮助,就点一下

信源MLQ(2026-11-13);Unite.AI(2026-11-14)。本文为公开信息整理,不构成任何投资建议。

本文来自 HIMIAO视界 · himiao.ai

今天能薅OpenAI Codex 学生额度:100 美元免费额度HIMIAO选购 →

订阅 HIMIAO视界

不用注册 · 随时退订

邮件

推送通知

早报出来时,手机或电脑上弹一条提醒。不用留邮箱。

HIMIAO选购薅羊毛周报:每周五一封,一周还有效的羊毛 5 分钟看完
  1. 评论加载中…
问问小喵