概览
采用 Lightning Attention 的混合 MoE,456B 总参数、45.9B 激活;训练上下文为 1M,并可外推至 4M。
采用 Lightning Attention 的混合 MoE,456B 总参数、45.9B 激活;训练上下文为 1M,并可外推至 4M。
仅展示已有公开资料的规格。
采用 Lightning Attention 的混合 MoE,456B 总参数、45.9B 激活;训练上下文为 1M,并可外推至 4M。
MiniMax-Text-01 开放权重。
查看原文点击卡片查看相关模型。