英伟达双擎开源:Nemotron 3.5 Lightning提速4倍+NeMo Switchyard降本74%,重塑AI Agent工作流

英伟达发布Nemotron 3.5 Lightning与NeMo Switchyard两大开源工具:前者以混合专家架构实现推理提速4倍、成本降至1/3;后者通过智能路由策略,在多轮Agent任务中降低74%综合开销。二者协同优化长程任务分工,推动开源AI Agent工业化落地。

继黄仁勋公开力挺开源AI生态后,英伟达重磅推出两大开源基础设施:面向Agent高频任务的轻量级推理模型Nemotron 3.5 Lightning,以及智能模型路由系统NeMo Switchyard。前者采用300亿参数混合专家架构,单次token激活仅约30亿参数,集成多token预测、推测解码与NVFP4/BF16双精度量化,在Artificial Analysis评测中稳居开源模型能力—速度帕累托前沿;后者通过任务难度感知、阶段动态调度与成本敏感路由,将复杂规划交由大模型、高频操作分流至轻量模型——在LangChain 145项多轮Agent测试中,前沿模型调用率仅7%,整体推理成本直降74%。模型已上线Hugging Face、ModelScope、OpenRouter及NVIDIA开发者平台;Switchyard代码同步开源至GitHub。此外,参数规模达万亿级的Nemotron 4系列正加速研发,目标对标全球顶尖开源基座。

来源:智东西

AI 前线

捷豹Type 01内饰首曝:以建筑化脊梁重构GT灵魂,英式豪华迎来静默革命

2026-8-13 8:45:15

AI 前线

大众智驾平台化突围:HS8如何复刻MQB式成功?

2026-8-13 10:45:15

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索