继黄仁勋公开力挺开源AI生态后,英伟达重磅推出两大开源基础设施:面向Agent高频任务的轻量级推理模型Nemotron 3.5 Lightning,以及智能模型路由系统NeMo Switchyard。前者采用300亿参数混合专家架构,单次token激活仅约30亿参数,集成多token预测、推测解码与NVFP4/BF16双精度量化,在Artificial Analysis评测中稳居开源模型能力—速度帕累托前沿;后者通过任务难度感知、阶段动态调度与成本敏感路由,将复杂规划交由大模型、高频操作分流至轻量模型——在LangChain 145项多轮Agent测试中,前沿模型调用率仅7%,整体推理成本直降74%。模型已上线Hugging Face、ModelScope、OpenRouter及NVIDIA开发者平台;Switchyard代码同步开源至GitHub。此外,参数规模达万亿级的Nemotron 4系列正加速研发,目标对标全球顶尖开源基座。
来源:智东西
