英伟达发布 Nemotron 3.5 Bolt E4B:4GB 显存跑本地智能体
英伟达 10 月 23 日发布 Nemotron 3.5 Bolt E4B 4GB,这是一款面向本地设备的小型开源语言模型,用于语音助手、游戏角色与机器人上的对话与工具调用。

发生了什么
Bolt E4B 是英伟达 10 月 15 日公布的 Nemotron 3.5 家族的最后一块:当时 Super VL(1200 亿参数)与 Bolt 74B-A9B(24GB)已上线,E4B 定于 10 月 23 日到达。10 月 23 日,英伟达 AI 账号发布演示:Reachy Mini 机器人在 8GB 的 Jetson Orin Nano 上边聊天边活动头部与天线,Bolt 负责对话、Cosmos 负责视觉,两者均在本地运行。
模型结构上,Bolt E4B 总参数 80 亿、有效参数 40 亿,起点是谷歌的开源模型 Gemma 4 E4B,英伟达用强化学习做了微调。权重可在 Hugging Face 免费下载,采用 OpenMDW-1.1 协议,允许商业使用,支持 llama.cpp 与 Ollama 运行。
命名上需要区分:名字里的 4GB 指英伟达给出的显存占用目标,实际下载的 GGUF 文件约 6.18GB,运行至少需要 4 至 5GB 显存。英伟达把 E4B 定位为快速对话智能体,而非桌面级的 Bolt 74B 或数据中心级的 Super VL。
关键事实
- 10 月 15 日英伟达发布 Nemotron 3.5 Super VL 与两款 Bolt 模型;Super VL 与 Bolt 74B-A9B 当时已上线,Bolt E4B 定于 10 月 23 日,10 月 23 日如期发布。
- Bolt E4B 总参数 80 亿、有效参数 40 亿,E 代表 effective;起点为谷歌 Gemma 4 E4B,英伟达以强化学习微调。
- 目标场景为本地语音助手、交互角色与机器人,可对话并调用工具;演示中 Reachy Mini 在 8GB Jetson Orin Nano 上本地运行,Bolt 负责对话、Cosmos 负责视觉。
- 权重在 Hugging Face 免费下载,OpenMDW-1.1 协议允许商业使用;运行方式为 llama.cpp 或 Ollama,GGUF 文件约 6.18GB。
- 家族分工:Lightning 面向高吞吐,Ultra 面向最难的推理任务,Super VL 面向常驻智能体,Bolt 面向边缘与本地设备。
为什么重要
Nemotron 家族至此覆盖数据中心、桌面与边缘设备三档,E4B 是其中最小的一档,把对话与工具调用放进 4GB 显存设备。
™