zero-to-llm 从零掌握大模型
从矩阵乘法一路讲到推理服务、RAG、Agent 和工程交付,七层由浅入深。每个技术决策都落到效果、显存、时延、成本四笔账上算清楚;正文里的表格和结论都来自代码的真实输出。
章节目录(30 章)
- 01数学符号、向量与矩阵乘法
- 02数学条件概率、softmax 与采样
- 03数学熵、交叉熵、困惑度与 KL
- 04数学链式法则与 softmax-交叉熵的梯度
- 05数学优化、归一化与数值稳定
- 06数学一张纸算清算力、显存与缩放
- 07模型亲手实现分词
- 08模型把注意力写成矩阵
- 09模型让模型知道顺序
- 10模型组装小模型并让一个批次下降
- 11训练从语料到一轮小预训练
- 12训练多卡的账和中断后续上
- 13后训练奖励、策略梯度与 DPO 的数学
- 14后训练只对该学的回答算损失
- 15后训练只训练一小部分参数
- 16后训练用偏好对核对 DPO
- 17后训练先验证奖励再训练
- 18后训练多想一会儿是否值得
- 19系统判断慢在哪,以及请求怎样排队
- 20系统减少注意力的内存搬运
- 21系统用精度换内存要付什么代价
- 22系统让草稿减少解码开销
- 23系统把模型部署成服务
- 24系统长上下文与混合专家怎样改变账单
- 25工程先把相关材料找出来
- 26工程让回答有可追溯的依据
- 27工程提示、路由与工具边界
- 28工程先写评测再改系统
- 29工程Agent 的循环、记忆、权限与成本
- 30交付交一个可复查的项目
