模型索引
阿里云·Qwen

Qwen2-72B

Qwen2 最大的 Dense 规格,统一采用 GQA,并扩展到 27 种额外语言。

历史版本语言编码开放权重
模型编号029
首次公开日期
2024-06-07
组织
Alibaba Cloud
家族
Qwen
01

规格概览

仅展示已有公开资料的规格。

总参数
72.7B
架构
Dense
上下文
128,000 tokens
输入模态
文本
开放权重
是
许可证
Tongyi Qianwen License Agreement↗
状态
历史版本
02

概览

发布日期

— Qwen2 系列开放发布,最大规格为 72B。 ↗

为什么重要

Qwen2 扩展了多语言与编码能力;72B 规格使用通义千问许可证,与该代较小的 Apache 2.0 型号不同。

03

与前代的规格对照

对比 Qwen1.5-72B ↗

前代Qwen1.5-72B72B · 33K ctx
当前Qwen2-72B72.7B · 128K ctx
04

架构与能力

注意力机制

GQA

模型能力

多语言编码数学
05

发布历史

开放权重

Qwen2 系列开放发布,最大规格为 72B。

查看原文
06

相关模型

点击卡片查看相关模型。

07

来源

建议修正这条记录

复制下方模板,补上字段、建议值和一手来源后发给资料维护者。