阿里云首发万亿级MoE模型推理超节点:真武M890+Qwen3.8在百炼平台商用落地

阿里云基于平头哥真武M890芯片打造超节点,首发支持2.4万亿参数Qwen3.8模型推理,依托9TB显存与800GB/s互联实现国内首个万亿级MoE模型商用落地,百炼平台已开放服务,推理性能提升达1.5倍。

7月23日,阿里云正式宣布平头哥自研AI芯片真武M890构建的超节点已全面适配最新旗舰大模型Qwen3.8,并在百炼平台上线提供高性能推理服务。该超节点成为国内首个稳定支撑参数规模达2.4万亿的MoE架构大模型的硬件基础设施。面对万亿级模型对算力密度、显存带宽与跨卡通信的严苛挑战,真武M890凭借原生支持FP32至FP4全精度计算能力,结合自研ICN Switch 1.0高速互联技术,实现64颗芯片间800GB/s无损互联与总计9TB统一显存池,彻底突破传统集群通信瓶颈。阿里云同步完成从芯片指令集、编译器、推理引擎到百炼平台的全栈协同优化,在Agentic智能体推理场景中实测推理吞吐提升最高达1.5倍,显著降低单位请求成本。

来源:雷峰网

AI 前线

红板科技斥资50亿元加码高端PCB产业化

2026-7-23 19:36:01

AI 前线

龙虎榜机构调仓显著:哈药股份获12亿抢筹,通富微电遭2.18亿抛售

2026-7-23 20:36:01

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索