卷2 · LLM 内功
2.10 小模型时代的科研机会：1B–7B 甜点区
展开本章目录与同卷章节
1. 为什么小模型是正经研究对象2. 学生的算力阶梯（2026 价格）3. 甜点区选题地图（每条都标了算力档）4. 寒假里程碑的完整算力预算（对齐 9.1 执行计划）5. 自测题6. 动手作业（本卷收官作业）7. 延伸资源同卷章节2.1 语言模型前史：n-gram → RNN → 注意力（20 分钟走完 30 年）2.2 BPE tokenizer 原理与实现2.3 GPT 架构工程版：从 TinyGPT 到 nanoGPT2.4 预训练：数据、Scaling Law 与训练稳定性2.5 SFT 与指令微调实战2.6 参数高效微调：LoRA 与 QLoRA2.7 对齐技术：RLHF → DPO → GRPO2.8 推理优化与 vLLM：把模型变成服务2.9 架构前沿：MoE、长上下文与注意力变体2.10 小模型时代的科研机会：1B–7B 甜点区本章目标：把”算力有限”从劣势翻译成研究议程——为什么小模型不只是”缩水版”，而是独立的研究对象；给出学生的算力阶梯和选题映射。学完标准：能对任何”我想研究 X”回答”用多大的模型、什么卡、多少卡时、预算几块钱”。
1. 为什么小模型是正经研究对象
三条产业事实撑起这个判断：
- “过训小模型”是开源主流路线（2.4 §2）：LLaMA/Qwen 的 1.5B–7B 都用远超 Chinchilla 配比的数据喂养——“把智能压进小模型”本身是开放问题：多少数据、什么配比、什么课程能把 1.5B 推到极限？没有标准答案；
- 端侧与降本的真实需求：手机、车机、本地部署都要 1–4B 模型；API 厂商也要小模型扛住高并发低成本层。小模型的每 1% 提升都有直接定价意义；
- 科研范式友好：R1 的 distilled 系列证明小模型吃推理蒸馏成长极快；GRPO 在 1.5B–3B 上单卡可跑——当前最热的研究循环（RLVR）恰好发生在你能负担的规模。
科学问题层面，小模型上的问题一样深刻：能力涌现的机制、蒸馏中什么保留了什么丢了、数据效率的上界、量化的领域敏感性——问题的价值不随模型大小缩水。
2. 学生的算力阶梯（2026 价格）
| 档位 | 资源 | 能做什么 |
|---|---|---|
| 0 元 | Kaggle（周 30h）/ ModelScope 免费卡 / Colab | Qwen2.5-1.5B LoRA SFT；1B GRPO 小实验；全部卷0–卷2 作业 |
| ~2 元/小时 | AutoDL/仙宫云 4090 24G | 7B QLoRA SFT/DPO（寒假里程碑）；2–4B VLM LoRA 微调；3B GRPO（LoRA） |
| ~5–8 元/小时 | A100 80G / 多卡 4090 | 7B 全参 LoRA 大 rank；多模态 RL 批量实验；评测流水线 |
| 组内/云集群 | 导师资源（谈下来的） | 继续预训练 1–4B（域内 10B token 级）；大模型推理评测 |
决策公式：立项前先写三行——模型多大？卡是什么？预计卡时×单价=？超预算就降级模型或缩数据，永不放弃问题本身。例：多模态 RL 论文复现 → 原 paper 用 7B×8 卡，你换成 Qwen3-VL-2B + LoRA + 单 4090，验证同样的科学假设——这叫等比缩放实验设计，是学生科研的标准姿势（审稿人也认：在小模型上干净的证据 > 大模型上蹭的实验）。
3. 甜点区选题地图（每条都标了算力档）
- 垂直领域小 VLM（0 元起）：Qwen3-VL-2B + LoRA + 你造的数据（2.5 的方法论搬到多模态）——美学/艺术方向正好对接卷8；
- 小模型 RLVR（4090）：GRPO + 可验证奖励（2.7 §4 的 TRL 流程搬到 1.5B）——多模态验证器设计是论文级问题（卷5.1）；
- 蒸馏研究（4090–A100）：大模型什么能力蒸馏得进 1.5B？什么必然丢失？——便宜且深刻；
- 数据为中心（0 元–4090）：固定 1.5B 固定预算，只动数据配比/质量/课程——控制变量干净的实验设计训练场（卷5.2）；
- 评测与基准（0 元）：领域基准（如”VLM 看画”评测集）——算力几乎零，学术杠杆最高，也是进组最快的敲门砖；
- 量化的领域敏感性（0 元–4090）：4bit 量化在哪些任务上塌、为什么——产业真问题，实验便宜。
4. 寒假里程碑的完整算力预算（对齐 9.1 执行计划）
nanoGPT 练手（0 元，Kaggle）→ 1.5B LoRA SFT（0 元，免费卡）→ 7B QLoRA + DPO（4090 约 8–12 小时 ≈ 20 元）→ vLLM 部署 + 评测（本地/免费）→ 上传 HF。整个寒假的 GPU 开销一杯奶茶钱——算过账之后，“没算力”永远不再是借口。
5. 自测题
- “过训小模型”为什么是开放问题而不是工程细节？（数据配比/课程对极限的影响无标准答案——每家 know-how）
- 等比缩放实验设计的要点？（换更小模型/更短训练，但保持科学假设与控制变量不变；先小后大验证趋势）
- 你的预算三行公式是什么？（模型大小 / 卡型 / 卡时×单价）
- 为什么评测类选题学术杠杆高、适合敲门？（零算力、公开可比、影响后续所有工作；也是快速熟悉领域的路径）
- GRPO 为什么恰好落在学生算力区？（组采样可小 G、LoRA 可训、验证器零训练成本——三个因素都缩在 1.5–3B 甜点）
6. 动手作业（本卷收官作业）
- 把你想做的第一个研究想法写成一页纸 proposal：问题、假设、模型/卡型/预算三行、评测方案、风险与降级路径——找导师面谈时带着它；
- 建”实验台账”（一个 csv 或 notion）：日期/实验名/配置/结果/结论一行制——从第一次实验就养成习惯；
- 卷2 收官自查：不翻笔记，向同学讲清”一个 7B 从预训练到上线服务”的全链路（数据→预训练→SFT→DPO/GRPO→量化→vLLM）。讲不顺的章节回去重读。
7. 延伸资源
- SmolLM 系列博客（HuggingFace）——“从零造小模型”的完整公开记录
- DeepSeek-R1 蒸馏章节——小模型吃推理能力的实证
- LLaMA / Qwen 技术报告的”训练配方”小节——工业界如何回答第 1 节的问题