随着人工智能技术的飞速发展，图像生成领域成为了研究热点之一。不同于传统的图像处理方法，生成模型不仅可以复原图像，还可以基于先前的像素信息逐步生成新的图像内容。逐像素生成技术尤其引人注目，因为它模拟了从无到有的图像创作过程，展现了生成模型在细粒度控制上的潜力。本文将深入解读逐像素生成的自回归模型原理，聚焦于手写数字图像生成的具体实践，帮助读者理解图像生成的核心理念与技术实现方法。 自回归模型的本质在于其预测下一个数据元素时，严格依赖于之前已观察到的所有元素。换言之，在语言模型中，它是依据先前文字推断接下来的词汇；而在图像处理中，每个像素被视为序列中的一个元素，模型逐步预测一个像素值，条件是所有先前的像素值已知。
以数学公式表达，给定图像像素序列(x_1, x_2,...,x_T)，模型学习联合概率P(x_1,x_2,...,x_T)，其被分解成每个像素依赖于其之前像素的条件概率乘积。这种方式有效捕获了局部和长距离的像素间关系，且模型能够通过观测历史像素信息，估测下一个像素的概率分布，从而实现逼真的图像生成。 在真实操作中，为了载入和处理样本数据，MNIST数据集成为广泛运用的数字图像生成起点。MNIST内含大量28×28的手写数字图像，便于理解和实践基本生成模型。通过该数据集，可以直观地观察模型对像素信息的预测能力，以及由简单到复杂的模型演变如何逐步提升生成效果。 图像像素值在原始形式通常为连续灰度值（0.0至1.0之间浮点数），但为了适配分类模型的需求，采用了像素量化策略。
将连续灰度值划分为固定的离散区间或“词库”，从而将每个像素映射为一个整型标签，使得模型的预测转化为多类分类问题。这不仅降低了问题复杂度，还便于利用分类损失函数，比如交叉熵损失，提升训练的稳定性。量化的细化程度（区间数量）直接影响生成图像的精细度与模型复杂度，更多区间意味着更精确的灰度重建，但也伴随着更大的计算压力。 最简单的自回归图像生成模型是基于多层感知机（MLP）的像素预测器。该模型通过将前置像素的编码输入MLP，输出对下一个像素类别的概率预测。最初的版本使用一热编码表示像素值，即每个像素值对应一个唯一的稀疏向量，模型依据这些向量预测结果。
此模型尽管结构简单，但揭示了序列化图像生成的基本流程，包括如何依赖上下文窗口进行逐像素预测。 然而，单纯的上下文窗口输入未包含任何位置信息，导致模型难以捕捉二维空间中像素的具体位置关系，生成结果往往表现为噪声和无序的条纹。这就引出了模型的进化方向：引入位置编码。通过为每个目标像素学习二维坐标的嵌入向量，将空间位置显式融入模型输入，使模型具备对图像布局的空间感知能力，从而明显改善生成质量。实现方式包括为行和列分别设计独立的嵌入层，预测时再将这些位置信息与上下文向量拼接输入MLP。加入该机制后，模型生成更加有结构感的图案，局部垂直特征显著，虽然仍不完美，但朝着数字形状迈出了重要步伐。
在对像素值的表示进行改进方面，单纯一热编码存在本质缺陷：它未能体现不同灰度级别间的相似性。为此，采用了可学习的嵌入向量代替一热向量，使得相邻灰度的嵌入特征更趋近，从而帮助模型更有效地学习像素间的细微关系。此外，将类别条件引入模型，即将手写数字类别标签作为额外输入，赋予模型对生成图像类别的控制能力，实现有条件的图像生成。这一创新使得模型不仅能生成整体上连贯的图案，同时可以按需生成特定数字。 实际训练阶段，针对综合了像素嵌入、位置嵌入和类别嵌入的模型，采用大量上下文-目标像素对样本。样本制备过程通过从量化后的MNIST图像中滑动上下文窗口，结合目标像素的绝对位置及对应的类别标签，将训练数据转换为神经网络可接受的格式。
在训练时，利用交叉熵损失函数指导模型逐步优化，使用AdamW优化器平衡速度与泛化。训练完毕后的模型可通过逐像素采样，完成从无开始的数字图像生成。 生成过程中，模型起始于填充特殊开始标记的上下文窗口，逐像素预测并采样下一个像素值，依次更新上下文，直到完整图像生成。采样时通过调节温度参数影响生成多样性与确定性。结果表明，经过充分训练的条件模型能够产生形式上清晰、语义明确的数字图像，演示了自回归生成模型：从随机噪声演化到具备高度结构的数字形态的能力。 此外，对生成像素对应的概率分布及熵值分析有助于理解模型对每一步预测的不确定性与置信度。
熵高的步聚体现模型对该位置像素预测存在较大不确定性，多用于图像边缘和细节位置，熵低则意味着预测集中，反映模型在生成中对某些区域的确定性较强。观察这些统计量有助于进一步优化模型设计和采样策略。 虽然基于MLP的自回归模型在表达能力和生成质量方面远落后于最新的卷积神经网络或变换器（Transformer）架构，但它们因结构简洁、直观易懂而成为学习和教学的理想平台。通过逐步扩展模型能力——从无空间信息的一热表示，到引入位置编码，到整合类别条件和嵌入表示，整个过程揭示了复杂生成背后的关键理论与实践问题，对研究者理解生成对抗网络（GAN）、扩散模型等技术均具有启发意义。 综上所述，逐像素生成策略不仅为理解生成模型提供了独特视角，也促进了各种应用场景下的创新，包括图像修复、艺术创作和辅助设计。未来，结合更强大的模型架构和更丰富的训练数据，该方法有望实现更高质量、更具多样化的图像生成效果。
期待生成技术在视觉智能领域揭开更多未被探索的可能性，推动人工智能迈向更广阔的应用前沿。
