英伟达发布 Nemotron 3.5 Bolt 74B：塞进 24GB 的本地智能体模型

发生了什么

2026 年 10 月 13 日，英伟达在官方博客宣布 Nemotron 3.5 Bolt 74B-A9B 24GB，定于 10 月 15 日（周四）发布。这是一款为 RTX Spark 笔记本上的本地智能体打造的新模型。

该模型采用混合专家（MoE）架构：740 亿总参数，每 token 仅激活 90 亿参数；通过 2-bit 量化（含训练时的量化感知技术）把模型压缩进 24GB。英伟达称，它在速度与智能之间取平衡：比多数同内存占用的稠密模型更快、比同内存占用的 MoE 模型更聪明。

发布时即可通过 llama.cpp、vLLM、Ollama、Unsloth、LM Studio 运行，并可直接接入 Hermes、OpenClaw 等智能体。与其他 Nemotron 模型一样，Bolt 74B 完全开源：训练数据、权重与训练配方全部公开，开发者可以自行微调定制智能体。

同日消息：个人 AI 路由器 NVIDIA PAIR 正式脱离 beta 并开源，新增 llama.cpp 支持；RTX Spark 笔记本 10 月 16 日开售；更小的 Bolt E4B 4GB（面向 ACE 游戏角色）10 月 23 日发布。英伟达还称，本地大模型下载量已达去年全年的 5 倍。

关键事实

1. 架构：740 亿总参数、每 token 激活 90 亿参数的 MoE；2-bit 量化（含训练时量化感知）压缩到 24GB。
2. 开源：训练数据、权重、训练配方全部公开；发布时支持 llama.cpp、vLLM、Ollama、Unsloth、LM Studio；直连 Hermes、OpenClaw 等智能体框架。
3. 时间线：Bolt 74B 10 月 15 日发布；RTX Spark 笔记本 10 月 16 日开售；PAIR 同日脱离 beta 并开源；Bolt E4B 4GB 10 月 23 日发布。
4. 背景：英伟达称本地大模型下载量已达去年全年的 5 倍；OpenClaw、Hermes 等本地智能体项目今年在 GitHub 上热度飙升。