大语言模型究竟如何工作？一步步理解 GPT-2

一篇紧凑讲解沿文本在仅含解码器的 Transformer 中的处理路径拆解 GPT-2：子词分词与词表、词元编号转为嵌入向量并加入位置信息，再经查询、键、值、缩放点积和 softmax 权重说明自注意力。讲解最终落到下一词元概率分布，并将生成过程与训练目标联系起来。