10月15日，据报道，英伟达宣布推出开放多模态模型Nemotron 3.5 Super VL，面向需要持续运行、执行多步骤任务的AI智能体。
该模型采用混合专家MoE架构，总参数量为1200亿，激活参数120亿。英伟达称，在单张GPU上执行智能体任务时，该模型的吞吐量最高可达到同规模其他开放模型的5倍。
据介绍，Nemotron 3.5 Super VL将推理、指令遵循和工具调用能力，与文本、图像、文档及视频理解能力整合到同一个模型中，可用于代码测试与调试、跨网站信息检索、文档分析、网络安全威胁识别以及视频内容检索等场景。开发者可以利用英伟达NeMo工具链，结合自有数据、工具、政策和工作流程进行后训练，并根据业务需求调整模型行为。
英伟达同时公布了多个企业定制案例。例如，AI数据技术提供商Scale AI为媒体娱乐公司Skydance Corporation定制了供应商信用处理智能体，相关工作负载的推理成本预计可降低97.5%、延迟降低80%。金融运营平台Ramp正将收据图像转换为结构化JSON数据，预计吞吐量最高提升50%、延迟降低90%。
在模型评测方面，英伟达称Nemotron 3.5 Super VL在CharXiv图表推理基准测试中得分为80.8%，高于Nemotron 3 Nano Omni的63%，结合Python代码解释后得分达到84%。在Hermes Bench和LangChain行为评估中，该模型分别取得63.44%和87.05%。
为降低推理开销，Nemotron 3.5 Super VL采用投机解码、混合精度和上下文复用等技术，其LiLiCorr投机解码方法在DGX Spark上可将词元生成速度最高提升至2.3倍。模型还支持NVFP4量化，在英伟达Blackwell架构上使用4位权重和4位激活值。
除Super VL外，英伟达还推出了两款Nemotron 3.5 Bolt端侧模型。Nemotron 3.5 Bolt 74B-A9B 24GB采用740亿总参数、90亿激活参数的MoE架构，通过原生2位量化将模型压缩至24GB，面向本地智能体任务。Nemotron 3.5 Bolt E4B 4GB则面向本地语音助手等场景，计划于10月23日推出。
目前，Nemotron 3.5 Super VL和Bolt 74B-A9B 24GB已开放获取，开发者可通过Hugging Face、OpenRouter、ModelScope等渠道使用相关模型资源。
原创文章，作者：小丸子，如若转载，请注明出处：https://www.kejixun.co/article/764864.html
