模型索引
阿里云·Qwen

Qwen2-72B

Qwen2 最大的 Dense 规格,统一采用 GQA,并扩展到 27 种额外语言。

历史版本语言编码开放权重
模型编号021
发布日期
2024-06-07
组织
Alibaba Cloud
家族
Qwen
01

规格概览

仅展示已有公开资料的规格。

总参数
72.7B
架构
Dense
上下文
128K
输入模态
文本
开放权重
许可证
Apache-2.0
状态
历史版本
02

概览

概览

Qwen2 最大的 Dense 规格,统一采用 GQA,并扩展到 27 种额外语言。

为什么重要

Qwen2 把更宽松的 Apache 2.0 授权与强多语言能力结合,扩大了开源部署范围。

03

相对前代的变化

对比 Qwen-7B

前代Qwen-7B7.7B · 32K ctx
当前Qwen2-72B72.7B · 128K ctx
新增能力 编码 数学
04

架构与能力

注意力机制

GQA

主要能力

多语言编码数学
05

发布历史

开放权重

Qwen2 系列开放发布,最大规格为 72B。

查看原文
06

相关模型

点击卡片查看相关模型。

07

来源