先看证据
把机制串起来
MoE(混合专家)让模型总参数容量很大,但每个 token 只路由到少数专家,因此“总参数量”不等于每步都要计算全部参数。Mamba-2 用状态空间机制压低长序列处理成本,注意力则更擅长直接关联上下文中的不同位置;混合架构是在长序列效率与内容关联能力之间折中。视觉编码器会先把图片或视频帧转成语言模型可接收的表示,之后才由语言主干统一推理和生成。
主干交错使用 Mamba-2、注意力与 MoE:Mamba-2 有利于控制长序列处理开销,注意力保留跨位置检索能力,MoE 则用 512 个路由专家扩大容量;每个 token 激活约 12B 参数,而非全部 120B。视觉输入先经 C-RADIO 编码器和连接器进入语言主干,图片、文档页面与视频帧由此能和文字共同参与推理;视频输入支持最长 2 分钟的 MP4。原生多令牌预测先提出多个候选 token,再用一次前向验证;LiLiCorr 则是面向 DGX Spark 的推测解码
['适合需统一处理文档、图片、视频与工具调用的智能体。', '先核对硬件:Blackwell用W4A4,其他配置用W4A16。', '长任务可用前缀缓存;重复上下文越多,越可能受益。', '银行业tau3-bench仅17.78,金融流程需专项验证。']
把视觉、推理与工具调用放进一个模型
NVIDIA于2026年10月15日发布Nemotron 3.5 Super VL,将它定位为面向企业常驻智能体的开放视觉语言模型。它采用120B总参数、每个token激活12B参数的混合专家架构,能够接收文本、图片、文档页面和视频,再以文本形式输出,支持推理、工具调用与代码生成。
这次发布值得技术负责人读,不是因为“一个模型替代两个模型”就自然意味着架构更简单,而是因为它把过去常由视觉模型、语言模型和智能体运行层分别承担的工作,收进一个模型及其推理栈。集成边界可能因此变少,但模型权重、视觉输入、长上下文和多轮状态仍然要由部署系统共同承担,复杂度并不会凭空消失。
稀疏激活不等于轻量部署
Super VL的主干混合了Mamba-2与Transformer层,视觉内容则先经过C-RADIO视觉编码器和连接器,再进入语言主干。模型卡列出每个MoE层有512个路由专家;稀疏激活让每个token只使用部分参数,提供较大的模型容量,而不必让每个token都计算全部参数。
但12B激活参数不能直接解读为“只需装载12B参数”。总参数规模仍影响权重存放与部署条件,NVIDIA给出的NVFP4检查点参考配置是单台DGX Spark、单张H200、两张H100或单张GB200,另有BF16检查点。NVFP4也不是所有模块一律4-bit:材料说明视觉编码器、连接器、Mamba卷积和embedding保留BF16,路由器使用FP32,其他部分依硬件采用不同精度。因而,选型时要看完整检查点、显存和推理路径,不能只看激活参数数目。
提速来自整条推理链,而非单一技巧
NVIDIA把多种优化组合起来:原生多token预测提出候选token,再由一次前向计算验证;LiLiCorr是针对DGX Spark的推测解码草稿器,官方称生成速度最高可提升2.3倍;前缀缓存则在智能体多轮调用间复用上下文状态,包括注意力缓存和Mamba状态。这些设计分别瞄准解码等待和重复处理历史输入的问题,价值会随任务是否反复调用、共享前缀有多长而变化。
NVIDIA团队还报告,在Artificial Analysis的智能体任务中,通过Baseten端点实现了每秒超过600个输出token,并声称单GPU吞吐最高可达开放同类模型的5倍。这些数字描述的是特定服务与测试条件,不是任意硬件上都能复制的模型常数。对工程团队而言,关键问题应是优化能否覆盖自己的端到端请求,包括视觉编码、工具等待、缓存命中与并发,而不只是生成阶段的峰值速度。
成绩分布比单项最高分更有用
模型卡上的NVFP4成绩显示出较强但并不均匀的能力:GPQA-Diamond为89.90,SWE-bench Verified为71.07,Terminal-Bench 2.1为60.80,BrowseComp为77.5,文档任务MMLongBench-Doc为62.82,OSWorld-Verified为52.3。另一端,tau3-bench banking只有17.78。它不是“能做智能体任务”的统一证明,而是提示不同任务类型之间仍有明显落差。
对比NVIDIA自家的Nemotron 3 Ultra,Super VL在Hermes Bench上得分63.44%,高于Ultra的56.33%,在LangChain评测上为87.05%,也高于84.3%。材料同时指出Ultra的总参数约为Super VL的4.6倍。这个对照支持一个有限判断:在这些特定智能体评测中,较小总参数规模并未妨碍Super VL取得更高分;它不能证明模型在所有生产任务上更好,也不能消除不同harness、工具权限和任务分布造成的差异。
开放权重仍要经过任务与许可审查
NVIDIA同时公布了开放数据集、训练配方和NeMo Gym中的强化学习环境,权重采用OpenMDW-1.1许可。这让团队有机会研究模型与训练流程,而不仅是调用托管API;但“开放”不等于所有使用情形都无需审查,具体部署仍应核对许可条件、数据治理要求和配套工具链。
能力边界也需要落到输入与运行条件上:模型卡描述的视频输入限于最长两分钟的MP4片段,推理可以通过聊天模板开关启用或关闭。发布材料提到Bolt边缘模型,但Bolt E4B当时计划于2026年10月23日推出,因此不能把它视为10月15日已经可用的部署选项。更稳妥的判断是先用自己的文档、视觉输入和工具链复现关键任务,再核算完整服务成本;如果工作负载主要卡在外部工具、长时间运行状态或特定领域可靠性,单靠更大的上下文和更快解码未必能解决问题。