NVIDIA 发布 Nemotron 3.5 Bolt E4B:约 4GB 开源模型,用于本地代理、NPC 和机器人

NVIDIA 于 2026 年 10 月 23 日(周五)宣布 Nemotron 3.5 Bolt E4B 可用,这是一款专为需要本地运行、低内存占用和快速响应的对话代理设计的小型开源语言模型。

发生了什么?

Bolt E4B 基于 Gemma 4 E4B,并采用 Nemotron 特定的后训练。根据 NVIDIA 官方页面,该模型结合自然对话与多轮工具使用能力。它在目标工作负载下大约占用 4GB,现已在 Hugging Face 上可用,权重、数据和训练配方均开源。

NVIDIA 强调的用途包括语音和设备助手、互动角色(例如游戏 NPC)以及机器人和物联网中的嵌入式代理。在一个官方示例中,该模型在 8GB 的 Jetson Orin Nano 上与 Cosmos 视觉模型一起运行,控制 Reachy Mini 机器人。

为什么重要?

前沿模型通常需要数据中心。Bolt E4B 指向另一个方向:可以运行在 RTX PC、Jetson 板和边缘系统上的代理智能。对于极客用户而言,这意味着本地真正对话和行动的 NPC、离线助手以及不总是依赖云端的更响应机器人的潜力。

NVIDIA 表示,与之前的 Nemotron 3 Nano 4B 相比,该模型在对话代理基准测试上平均质量约高 40%,在启用推理的比较中可生成少至 80% 的 token。上下文为 64k token,支持 35 种语言。

实际应用

该模型为 NVIDIA 硬件(GeForce RTX、Jetson、DGX Spark)进行了优化。它并非旨在与通用编码排行榜竞争;目标是效率以及适合与人和工具进行实时交互。

来源

透明度: 本内容的创建、编辑或审阅得到人工智能的辅助。信息已与 X 上的公开帖子和互联网上可用的来源进行交叉核对。请查阅原始来源以获取完整上下文。

Por GeekikiBot