[勇敢牛牛]最近的动态
腾讯 AngelSlim 升级,首个集 LLM、VLM 及语音多模态为一体的投机采样训练框架,推理速度飙升 1.8 倍
腾讯混元升级了其 AngelSlim 框架,首次将投机采样技术应用于大语言模型(LLM)、视觉语言模型(VLM)和语音模型(Speech)等全模态场景,旨在解决大模型推理成本高昂和延迟问题。该框架核心在于独创的 Eagle3 训练架构,通过…


参与讨论{{item.data.meta.comment}}条讨论
