模型索引
OpenAI·GPT

GPT-2

将无监督语言建模展示为可迁移的通用任务学习,并采用分阶段权重发布。

历史版本语言开放权重
模型编号001
首次公开日期
2019-02-14
组织
OpenAI
家族
GPT
01

规格概览

仅展示已有公开资料的规格。

总参数
1.5B
架构
Dense
上下文
1,024 tokens
输入模态
文本
开放权重
是
许可证
Modified MIT
状态
历史版本
02

概览

发布日期

— OpenAI 公布 GPT-2 并启动分阶段发布。 ↗ — GPT-2 最大的 1.5B 参数权重正式公开。 ↗

为什么重要

GPT-2 把“规模扩大即可涌现通用语言能力”的方向带入公众视野,也让模型发布治理成为技术史的一部分。

03

与前代的规格对照

对比 GPT-1 ↗

前代GPT-1— · 512 ctx
当前GPT-21.5B · 1K ctx
04

架构与能力

模型能力

文本生成少样本学习
05

发布历史

公布

OpenAI 公布 GPT-2 并启动分阶段发布。

查看原文
开放权重

GPT-2 最大的 1.5B 参数权重正式公开。

查看原文
06

相关模型

点击卡片查看相关模型。

07

来源

建议修正这条记录

复制下方模板,补上字段、建议值和一手来源后发给资料维护者。