-
DeepSeek 关键技术详解
本文详细介绍了 DeepSeek V3 和 R1 系列模型的技术创新点。DeepSeek V3 在 MoE 架构上进行了改进，提出了细粒度专家划分和共享专家分离策略，并针对负载不均衡问题引入可学习的偏置项。此外，V3 还采用了群体相对策略优化（GRPO）、多头隐式注意力（MLA）、多令牌预测（MTP）和混合精度框架等技术，以提升训练效率和模型效果。DeepSeek R1 系列模型则专注于深度推理能…- 0
- 0
大模型技术
扫码打开当前页
-
✈优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×