NO.23 · 人工智能
AI 基础手册：37 篇笔记从线性代数走到知识图谱
37 篇可逐行验算的中文 AI 笔记，7 个板块、30 万字、258 个块级公式——从数学基础、经典机器学习、神经网络到深度学习之外的图模型与知识图谱，每篇共用一套体例。
训练集准确率 98%，验证集 92%，上线一周后掉到 70%。这类问题几乎无法靠继续调参解决——往回追，原因往往不在某一行代码，而在三处同时空着：不清楚泛化误差从哪里来，不知道梯度为什么会消失，也说不准模型的假设在什么数据上不成立。
这套笔记就是按「把空补上」的顺序整理的。
规模与原则
| 指标 | 数值 |
|---|---|
| 笔记 | 37 篇 |
| 板块 | 7 个 |
| 正文 | 约 30 万字 |
| 块级公式 | 258 个 |
| Markdown 行数 | 9,613 行 |
| 新手提示 | 113 条 |
四条写作原则：
- 公式可验算——258 个块级公式，逐项核对变量含义与推导步骤；
- 术语有出处——名词首次出现给出英文全称与缩写，篇末汇总成表；
- 体例统一——37 篇共用一套结构，翻到任何一篇都知道去哪里找结论；
- 面向工程——每个方法都交代局限与失效场景，不只讲它为什么有效。
内容地图
三十秒版本：001–006 给数学工具，007–015 给算法范式，016–032 拆网络结构与训练方法，033–036 看深度学习之外的路线。
| 板块 | 篇数 | 内容 |
|---|---|---|
| 000 开篇 | 1 | 技术路线、知识地图 |
| 001 数学基础 | 6 | 线性代数、概率论、数理统计、最优化、信息论、形式逻辑 |
| 002 机器学习 | 9 | 概论、回归、朴素贝叶斯、逻辑回归、决策树、SVM、集成、聚类、降维 |
| 003 人工神经网络 | 6 | 生理背景、感知器、多层感知器、RBF、SOM、模糊网络 |
| 004 深度学习 | 6 | 概述、前馈网络、正则化、优化、自编码器、深度强化学习 |
| 005 框架下的神经网络 | 5 | 深度信念网络、卷积、循环、对抗生成、长短期记忆 |
| 006 深度学习之外 | 4 | 概率图模型、集群智能、迁移学习、知识图谱 |
三条学习路线
一周速览（时间有限时串起最小完整链条）：
1 | 000 导论 → 007 机器学习概论 → 018 多层感知器 |
从「AI 有哪些路线」出发，先建立评估与泛化概念，再看反向传播如何训练网络，最后落到一个具体结构上。
完整通关：按编号顺序读完全部 37 篇。板块内部有依赖，跨板块跳跃时建议回头补对应的数学篇目——训练技巧（022–027）与优化、信息论（001–006）对照阅读；主流骨架（028–032）建议配合论文原文。
专题直达：
| 想查什么 | 去哪里 |
|---|---|
| 过拟合、偏差与方差 | 007、024 |
| 梯度消失与梯度爆炸 | 025、030、032 |
| 注意力机制 | 032 |
| 生成模型 | 026、031 |
| 卷积的感受野与参数共享 | 029 |
| 概率图模型与近似推断 | 033 |
| 预训练、微调与负迁移 | 035 |
| 知识表示与推理 | 006、036 |
每篇的统一体例
37 篇共用一套结构，读熟一篇就等于读熟了全部：
| 组成部分 | 作用 |
|---|---|
| 读前须知 | 开头三行：需要什么前置、这一篇在地图上的位置、读完之后能做什么 |
| 分节 | 「一、二、三」为大节，下设「1.1、1.2」小节，标题本身即结论 |
| 补充说明 | 对易错点的展开：补充推导、概念辨析或工程取舍 |
| 新手提示 | 引用块，解释最容易卡住的术语与公式 |
| 四个常见误区 | 篇末先破后立，列出最容易理解偏的四处 |
| 要点回顾 | 编号列表，10～12 条，可当复习提纲 |
| 名词汇总 | 名称 / 英文全称 / 英文缩写 / 简介，四列成表 |
排版上的取舍
- 正文不写行内公式；α、σ、∇、⊙ 这类符号直接用 Unicode 字符，脱离渲染器也能读；
- 只对必要推导使用块级公式，GitHub 原生渲染 LaTeX，无需插件;
- 中文一律使用弯引号；术语首次出现给出英文全称与缩写；
- 全部文件 UTF-8 无 BOM，三个平台打开均无乱码。
这些约定看起来琐碎，但它们决定了笔记在 GitHub、终端和本地编辑器里是否都「读得下去」——笔记的第一读者永远是不确定环境下的自己。
一个值得记住的细节
「四个常见误区 + 要点回顾 + 名词汇总」这个组合，是把笔记从「记录」变成「可复习」的关键。记录只服务第一次阅读，复习提纲服务第 N 次；而名词四列表让一篇 30 万字的库可以在检索时被当作词典用。