AI from Scratch · Phase 08 | 生成式 AI

🎨 Phase 08:生成式 AI

15 节课 · ~14 小时 · 从自动编码器到可控图像生成


为什么这个阶段重要?

生成式 AI 是 2022 年以来最大的技术浪潮。Midjourney、Stable Diffusion、Sora 都是生成模型的产物。理解生成模型的设计空间,你就理解了为什么扩散模型击败了 GAN,以及下一代架构可能走向何方。


🔑 核心概念

1. 生成模型的三大流派

  • VAE(变分自编码器): 学习数据的概率分布,生成平滑但模糊的样本
  • GAN(生成对抗网络): 生成器 vs 判别器的博弈,生成锐利但难训练
  • Diffusion(扩散模型): 前向加噪 + 反向去噪,目前质量最好但速度慢

演进逻辑:可训练性 + 生成质量的权衡。

2. 扩散模型原理

训练:给图片逐步加高斯噪声,学习预测噪声。生成:从纯噪声开始,逐步去噪恢复图片。Latent Diffusion(Stable Diffusion)的关键创新:在压缩的潜空间而非像素空间做扩散,计算量减少 64 倍。

3. ControlNet 与 LoRA

ControlNet:给扩散模型加条件控制(姿态、边缘、深度),实现精准构图。LoRA:低秩适配,只训练少量参数就能改变风格。两者结合 = 可控 + 个性化的图像生成工作流。

4. Flow Matching

扩散模型的数学推广。不再限于高斯噪声,可以用任意概率路径。训练更稳定、采样更快,是 Stable Diffusion 3 和 FLUX 的核心。


📋 完整课程列表

#课程预计时长
01Generative Models — Taxonomy & History(生成模型分类与历史)~45 min
02Autoencoders & VAE(自动编码器与 VAE)~75 min
03GANs — Generator vs Discriminator~75 min
04Conditional GANs & Pix2Pix(条件 GAN)~75 min
05StyleGAN~45 min
06Diffusion Models — DDPM from Scratch(从零写 DDPM)~75 min
07Latent Diffusion & Stable Diffusion~75 min
08ControlNet, LoRA & Image Conditioning~75 min
09Inpainting, Outpainting & Image Editing(图像编辑)~75 min
10Video Generation(视频生成)~45 min
11Audio Generation(音频生成)~45 min
123D Generation(3D 生成)~45 min
13Flow Matching & Rectified Flows~45 min
14Evaluation — FID, CLIP Score, Human Preference~45 min
15Visual Autoregressive Modeling (VAR)(视觉自回归)~90 min

🔗 前置与后续

  • 前置: Phase 03 深度学习 + Phase 04 计算机视觉(至少 CNN 基础)
  • 后续: → Phase 12 多模态 AI(图文混合生成模型)

💡 学习建议

  • 02-03 理解 VAE 和 GAN 的设计思想,不要纠结数学推导
  • 06-08 是重点,扩散模型 + Stable Diffusion + ControlNet/LoRA 是当前主流
  • 13(Flow Matching)是 2025 前沿,理解了就理解了 SD3/FLUX
  • 实操推荐:用 Diffusers 库跑通 SD 推理,再尝试 LoRA 微调