快讯

快讯·模型与产品·2026-10-24 20:23

英伟达发布 Nemotron 3.5 Bolt E4B:4GB 显存跑本地智能体

英伟达 10 月 23 日发布 Nemotron 3.5 Bolt E4B 4GB,这是一款面向本地设备的小型开源语言模型,用于语音助手、游戏角色与机器人上的对话与工具调用。

阳光客厅里小机器人与人对话
英伟达发布 Nemotron 3.5 Bolt E4B(AI 生成示意图)

发生了什么

Bolt E4B 是英伟达 10 月 15 日公布的 Nemotron 3.5 家族的最后一块:当时 Super VL(1200 亿参数)与 Bolt 74B-A9B(24GB)已上线,E4B 定于 10 月 23 日到达。10 月 23 日,英伟达 AI 账号发布演示:Reachy Mini 机器人在 8GB 的 Jetson Orin Nano 上边聊天边活动头部与天线,Bolt 负责对话、Cosmos 负责视觉,两者均在本地运行。

模型结构上,Bolt E4B 总参数 80 亿、有效参数 40 亿,起点是谷歌的开源模型 Gemma 4 E4B,英伟达用强化学习做了微调。权重可在 Hugging Face 免费下载,采用 OpenMDW-1.1 协议,允许商业使用,支持 llama.cpp 与 Ollama 运行。

命名上需要区分:名字里的 4GB 指英伟达给出的显存占用目标,实际下载的 GGUF 文件约 6.18GB,运行至少需要 4 至 5GB 显存。英伟达把 E4B 定位为快速对话智能体,而非桌面级的 Bolt 74B 或数据中心级的 Super VL。

关键事实

  1. 10 月 15 日英伟达发布 Nemotron 3.5 Super VL 与两款 Bolt 模型;Super VL 与 Bolt 74B-A9B 当时已上线,Bolt E4B 定于 10 月 23 日,10 月 23 日如期发布。
  2. Bolt E4B 总参数 80 亿、有效参数 40 亿,E 代表 effective;起点为谷歌 Gemma 4 E4B,英伟达以强化学习微调。
  3. 目标场景为本地语音助手、交互角色与机器人,可对话并调用工具;演示中 Reachy Mini 在 8GB Jetson Orin Nano 上本地运行,Bolt 负责对话、Cosmos 负责视觉。
  4. 权重在 Hugging Face 免费下载,OpenMDW-1.1 协议允许商业使用;运行方式为 llama.cpp 或 Ollama,GGUF 文件约 6.18GB。
  5. 家族分工:Lightning 面向高吞吐,Ultra 面向最难的推理任务,Super VL 面向常驻智能体,Bolt 面向边缘与本地设备。

为什么重要

Nemotron 家族至此覆盖数据中心、桌面与边缘设备三档,E4B 是其中最小的一档,把对话与工具调用放进 4GB 显存设备。
有用 这篇对你有帮助,就点一下

信源HPCWire(2026-10-15,https://www.hpcwire.com/aiwire/2026/10/15/nvidia-expands-nemotron-family-with-highest-efficiency-super-vl-and-bolt-models/);Pasquale Pillitteri(2026-10-23,https://pasqualepillitteri.it/en/news/26810/nemotron-3-5-bolt-e4b-nvidia-robots-games)。本文为公开信息整理,不构成任何投资建议。

本文来自 HIMIAO视界 · himiao.ai

  1. 评论加载中…
问问小喵