目录一、自监督 从数据本身“造标签”二、为什么大模型首先需要自监督一数据规模二统一任务三可迁移表征三、自监督训练闭环自己出题、自己批改、自己更新四、三大家族预测、复原、对齐五、LLM 里的 next-token prediction最简单也最强大六、BERT/T5/BART遮住、打乱、加噪再让模型复原七、视觉大模型不是只有文字能自监督一SimCLR同一张图的两个增强视图应靠近二 MAE遮住 75% 图像 patch再重建三DINO/BYOL不用负样本也能靠“教师—学生”学表示八、多模态大模型CLIP 式图文对齐九、自监督预训练、指令微调、RLHF三者不是一回事十、为什么简单任务会长出复杂能力三个更深的理解角度十一、局限与常见误解十二、学习路线与速查表一一页速查二推荐学习顺序参考论文与资料干货分享感谢您的阅读自监督学习不是“没有监督”而是让数据自己产生监督信号。大模型之所以能从互联网规模的文本、图片、代码、音频、视频中学到通用能力是因为它把原始数据切成了海量练习题预测缺失部分、复原被破坏内容、判断不同视图或不同模态是否对应。这是一篇面向快速直觉理解的图文长文。核心目标不用先陷入公式细节也能看懂 GPT、BERT、T5、MAE、CLIP、DINO 这些大模型为什么都离不开自监督学习。一、自监督 从数据本身“造标签”监督学习像老师发带答案的试卷图片旁边写着“猫”句子旁边标着“正面情绪”。自监督学习则像把一本没有标注的书拿来遮住其中一部分让模型根据上下文猜猜完以后原书中被遮住的内容就是答案。最直觉的比喻自监督学习就是把世界上几乎无限的原始数据改造成几乎无限的练习题。原始数据 x → 造题函数 t(x) (输入 x_in, 答案 y_self) → 模型预测 ŷ → 损失 L(ŷ, y_self) → 更新参数 θ例如“大模型正在学习”这句话可以变成训练题给模型“大模型正在__”让它预测“学习”。这就是很多自回归语言模型最核心的自监督任务预测下一个 token。二、为什么大模型首先需要自监督一数据规模人工标注很贵网页、书籍、代码、图片、音频、视频却天然海量。自监督把未标注数据转化为训练信号。二统一任务“预测下一个 token”“复原被遮住内容”“判断图文是否匹配”都能统一成大规模预训练任务。三可迁移表征模型不只是记答案而是在训练中形成可迁移的内部表示语法、语义、视觉结构、跨模态对应关系。三、自监督训练闭环自己出题、自己批改、自己更新自监督训练不是一个神秘概念它只是一个可以反复执行的闭环模型没有被直接告知“什么是语义”“什么是猫”“什么是逻辑”。它只是为了减少预测错误被迫学习那些能降低错误率的结构。四、三大家族预测、复原、对齐大模型里的自监督学习可以用三种问题来记五、LLM 里的 next-token prediction最简单也最强大很多生成式大语言模型的预训练目标很朴素给定前面的 token最大化真实下一个 token 的概率。训练时模型不是只做一道题而是在一段文本里每个位置都做一道题。许多生成式大语言模型的核心预训练目标是给定前面的 token最大化真实下一个 token 的概率。形式上就是最大化Σ log Pθ(xᵢ | x₁, x₂, ..., xᵢ₋₁)这看似只是“猜下一个词”但难点在于预测下一个词往往需要使用语法、事实、风格、指代、代码结构、领域知识和推理链条。要补全“巴黎是法国的__”模型需要地理知识要补全一个 Python 函数模型需要语法和库调用习惯要续写证明模型需要符号结构和局部逻辑一致性。next-token prediction 的表面任务是预测符号内在任务是压缩上下文。能更好压缩语言世界规律的模型会更好预测下一个 token。模型并不是先“理解”再预测而是在长期预测失败与修正中形成可被我们称为理解的内部结构。这也解释了为什么规模如此关键。Scaling Laws 研究发现语言模型交叉熵损失会随模型规模、数据规模和训练计算量呈现可预测的幂律下降趋势Chinchilla 进一步强调在固定计算预算下模型参数和训练 token 数需要更平衡地一起扩大而不是只堆参数。这些研究把“多大模型、多少数据、多少算力”从经验主义推进到了可估算的工程科学。六、BERT/T5/BART遮住、打乱、加噪再让模型复原自回归模型只能看左边上下文来预测右边。BERT 换了一个思路随机遮住句子中的部分 token让模型同时利用左右上下文来恢复被遮住的词。T5、BART 等模型进一步把“加噪—复原”推广为更统一的文本到文本或序列到序列预训练。选择哪种目标如果主要目标是生成decoder-only 的自回归目标非常直接如果目标是理解句子、检索、分类、抽取双向遮盖式预训练常常更自然如果要统一输入输出任务T5/BART 式去噪序列到序列预训练很有代表性。七、视觉大模型不是只有文字能自监督图像也能自己造题把同一张图做两种增强要求表示相近遮住大块图像 patch要求模型重建或者让学生网络预测教师网络的表示。一SimCLR同一张图的两个增强视图应靠近二 MAE遮住 75% 图像 patch再重建三DINO/BYOL不用负样本也能靠“教师—学生”学表示八、多模态大模型CLIP 式图文对齐多模态自监督的关键问题是一张图片和一句描述是否匹配如果匹配把它们的向量拉近如果不匹配把它们拉远。这样模型会学到一个共享语义空间文本“红色汽车”和红色汽车图片会靠近文本“雪山”会和雪山图片靠近。体会CLIP 式目标把“分类器的类别名”换成了“自然语言描述”。这使视觉模型能用文本表达新概念具备零样本迁移的基础。九、自监督预训练、指令微调、RLHF三者不是一回事很多人把“ChatGPT 会聊天”全部归因于自监督这是误解。自监督预训练让模型获得大量语言与世界知识指令微调让模型学会按人类指令回答偏好优化/RLHF 让回答更符合“有用、真实、无害”等偏好。十、为什么简单任务会长出复杂能力这件事的关键不在“任务名称简单”而在“要把任务做好需要哪些隐变量”。预测一句话的下一个 token常常需要知道说话风格、上下文目标、事实知识、逻辑关系、代码结构、数学符号约束。模型为了降低损失会把这些因素压进内部表示。三个更深的理解角度十一、局限与常见误解误解更准确的理解自监督就是无监督。不是。它有明确训练目标和答案只是答案来自数据自身。next-token prediction 等于真正理解。它能学到强大统计结构但训练目标仍是预测文本概率不等于天然保证真实、可验证、无偏。预训练越大就一定越好。模型大小、数据量、训练计算、数据质量、架构和对齐都会影响结果只扩大某一项可能不经济。有了自监督就不需要人类数据。基础能力可由自监督获得但任务适配、风格、安全和偏好通常需要监督微调或偏好优化。图像、音频、多模态只是 NLP 的附属。视觉和多模态有自己的自监督目标如图像 patch 重建、图文对齐、视频时序预测等。十二、学习路线与速查表一一页速查你看到的术语最短解释直觉图像典型代表Next-token prediction给前文猜下一个 token。盖住句尾答案。GPT、decoder-only LLMMasked Language Modeling遮住句中 token用左右上下文恢复。完形填空。BERTSpan corruption / Denoising遮住连续片段或打乱文本再复原。修复被涂改的文章。T5、BARTContrastive learning正样本拉近负样本推远。同类朋友靠近不同类分开。SimCLR、CLIPMasked image modeling遮住图像 patch再重建。拼图补洞。MAE、BEiT 类Self-distillation学生预测教师的表示教师缓慢更新。自己教自己。BYOL、DINO二推荐学习顺序把所有复杂名词压成一句话大模型先用自监督从海量数据中学“世界的统计压缩”再用人类数据学“怎样把能力以人想要的形式释放出来”。参考论文与资料Radford et al. Improving Language Understanding by Generative Pre-Training.Brown et al. Language Models are Few-Shot Learners.Devlin et al. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding.Raffel et al. Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer.Lewis et al. BART: Denoising Sequence-to-Sequence Pre-training.Chen et al. A Simple Framework for Contrastive Learning of Visual Representations.He et al. Masked Autoencoders Are Scalable Vision Learners.Radford et al. Learning Transferable Visual Models From Natural Language Supervision.Caron et al. Emerging Properties in Self-Supervised Vision Transformers.Grill et al. Bootstrap Your Own Latent.Ouyang et al. Training language models to follow instructions with human feedback.Kaplan et al. Scaling Laws for Neural Language Models.Hoffmann et al. Training Compute-Optimal Large Language Models.Touvron et al. LLaMA: Open and Efficient Foundation Language Models.