概览
采用细粒度专家切分与共享专家隔离的 16.4B MoE，公开 Base 与 Chat 权重。
模型编号023
- 发布日期
- 2024-01-11
- 组织
- DeepSeek
- 家族
- DeepSeek V / R
01
规格概览
仅展示已有公开资料的规格。
02
概览
为什么重要
DeepSeekMoE 是 V2 之前验证高效稀疏专家路线的关键中间节点。
03
架构与能力
主要能力
moe高效率多语言
04
发布历史
DeepSeekMoE 16B 公开发布，以细粒度专家和共享专家隔离探索高效 MoE。
查看原文05
相关模型
点击卡片查看相关模型。
暂未收录关联模型
06