docs: 第二章——层1 SFT 基线开工文档(参考实现解剖+保留/替代/删除清单+任务表);CLAUDE.md 映射表补 data.py

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
This commit is contained in:
2026-07-18 03:51:06 -04:00
parent 77f0419bad
commit 12e2a8b0ae
3 changed files with 91 additions and 5 deletions
+4 -4
View File
@@ -10,9 +10,9 @@
- **日期**: 2026-07-18
- **当前层**: 层 0(环境与骨架),收尾中
- **已完成**: 文档第一章精讲完毕(式 1-8 + §3.1-3.6 逐节过);detach 命门测试预置并通过;依赖清单/远程脚本/密钥模板入库;gitea 双端打通(SSH 222 端口)
- **进行中**: 本地 conda env `ars-opd` 在装依赖;远程 `setup_remote.sh` 在跑
- **层 0 关账判据**: 两端 `pytest tests/ -q` 全绿
- **下一步**: 层 1SFT 基线):解剖参考实现 `train_sft_sanity.py` 与 collator → 写 `docs/02-sft-baseline.md` → 数据管线 + 最小训练脚本(Qwen3-0.6B,远程 4 卡)
- **进行中**: 本地 env 依赖安装移交用户手动执行(CPU torch + 清华源;后台安装因网络超时反复失败);远程已验收 ✅(torch+8 卡、pytest 4/4
- **层 0 关账判据**: 两端 `pytest tests/ -q` 全绿(远程 ✅,本地待装完)
- **下一步**: 层 1 开工文档 `docs/02-sft-baseline.md` 已写好(含解剖、保留/替代/删除清单、任务表 T1-T5、默认参数提案),用户阅读后按 T1→T3→T4→T2→T5 动手
- **未精讲的文档账**: docs/01 的 §3.7(KL 锚三处实现差异)、§3.8(论文外稳定器)、§4(训练步流程走读)
- **远程磁盘备忘**: 根分区 100% 的结构性原因是 `/root/zym`(507G 历史工作区)压在根分区,建议择期整体搬迁 `/data`;临时缓解 = 清 `/tmp/pip-unpack-*`、旧 tar.gz、journal。所有新增写盘已改道 `/data/zym`
@@ -34,7 +34,7 @@
|------|------|------|
| `00-roadmap.md` | 本文 | ✅ |
| `01-paper-code-map.md` | 论文 §3-§4 精读 + 参考实现全景解剖 + 概念↔代码对照表 | ✅ |
| `02-sft-baseline.md` | 层 1SFT 与数据管线 | |
| `02-sft-baseline.md` | 层 1SFT 与数据管线 | ✅ 待读 |
| `03-whitebox-opd.md` | 层 2:token 级 KL 蒸馏及其脆弱性 | ⬜ |
| `04-mc-estimator.md` | 层 3:MC 估计 + 贝叶斯平滑 | ⬜ |
| `05-entropy-chunking.md` | 层 4:熵调度 | ⬜ |