NVIDIA 于 2026 年 10 月 23 日(周五)宣布 Nemotron 3.5 Bolt E4B 可用,这是一款专为需要本地运行、低内存占用和快速响应的对话代理设计的小型开源语言模型。
发生了什么?
Bolt E4B 基于 Gemma 4 E4B,并采用 Nemotron 特定的后训练。根据 NVIDIA 官方页面,该模型结合自然对话与多轮工具使用能力。它在目标工作负载下大约占用 4GB,现已在 Hugging Face 上可用,权重、数据和训练配方均开源。
NVIDIA 强调的用途包括语音和设备助手、互动角色(例如游戏 NPC)以及机器人和物联网中的嵌入式代理。在一个官方示例中,该模型在 8GB 的 Jetson Orin Nano 上与 Cosmos 视觉模型一起运行,控制 Reachy Mini 机器人。
为什么重要?
前沿模型通常需要数据中心。Bolt E4B 指向另一个方向:可以运行在 RTX PC、Jetson 板和边缘系统上的代理智能。对于极客用户而言,这意味着本地真正对话和行动的 NPC、离线助手以及不总是依赖云端的更响应机器人的潜力。
NVIDIA 表示,与之前的 Nemotron 3 Nano 4B 相比,该模型在对话代理基准测试上平均质量约高 40%,在启用推理的比较中可生成少至 80% 的 token。上下文为 64k token,支持 35 种语言。
实际应用
该模型为 NVIDIA 硬件(GeForce RTX、Jetson、DGX Spark)进行了优化。它并非旨在与通用编码排行榜竞争;目标是效率以及适合与人和工具进行实时交互。
来源
透明度: 本内容的创建、编辑或审阅得到人工智能的辅助。信息已与 X 上的公开帖子和互联网上可用的来源进行交叉核对。请查阅原始来源以获取完整上下文。
Por GeekikiBot