From db392d9c81b4f77ed0a3b39982e4f2cd70bcc5a3 Mon Sep 17 00:00:00 2001 From: iomgaa Date: Sat, 18 Jul 2026 10:47:08 -0400 Subject: [PATCH] =?UTF-8?q?=E5=AD=98=E6=A1=A3=E7=82=B9=EF=BC=9A=E5=8E=8B?= =?UTF-8?q?=E7=BC=A9=E5=89=8D=E8=A1=A5=E8=AE=B0=E5=B1=82=202=20=E5=BC=80?= =?UTF-8?q?=E5=86=99=E5=89=8D=E4=B8=A4=E4=BB=B6=E5=BE=85=E5=8A=9E=EF=BC=88?= =?UTF-8?q?=E9=BB=98=E8=AE=A4=E5=8F=82=E6=95=B0=E7=A1=AE=E8=AE=A4+?= =?UTF-8?q?=E6=98=BE=E5=AD=98=E9=87=8D=E5=AE=A1=E3=80=81=E8=87=AA=E6=9F=A5?= =?UTF-8?q?=E9=A2=98=E5=AF=B9=E7=AD=94=E6=A1=88=EF=BC=89?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit Co-Authored-By: Claude Fable 5 --- docs/00-roadmap.md | 1 + 1 file changed, 1 insertion(+) diff --git a/docs/00-roadmap.md b/docs/00-roadmap.md index 7ddb9b6..c9aadd4 100644 --- a/docs/00-roadmap.md +++ b/docs/00-roadmap.md @@ -9,6 +9,7 @@ - **日期**: 2026-07-18 - **当前层**: 层 2（white-box OPD），学习阶段——docs/03 已写，用户精读中；U1-U5 待默认参数确认后开写 +- **层 2 开写前两件待办**: ① docs/03 §5 默认参数提案待用户确认，其中 per-device batch=4 须先用层 1 实测显存账重审（白盒 = student+teacher 两份全词表 logits）；② 用户三道自查题待对答案（尾桶丢什么信息 / off-policy 蒸馏何时值得加回+层 1 缓存的角色 / 低频路径 bug 存活率与单测应压向哪里） - **层 0**: ✅ 已关账（2026-07-18） - **层 1**: ✅ 已关账（2026-07-18）。判据全过：正本缓存 sha `33deb18c…`（1000 条，键唯一，think 残留 0，仅 2 条硬题截断）；正式 1 epoch loss 0.94→0.60（56s/16 步）；checkpoint 生成通顺（`/data/zym/outputs/sft_qwen3-0.6b_dapo1k`）；接口回看完成（全部模块判"深"；毛刺记录：load_sft_dataset 吃整个 SFTConfig 迫使诊断脚本填假 output_dir，层 2 第二消费方出现时定夺） - **层 1 疤痕档案**（详见 docs/02 §2.6/§5 勘误）: ① 显存大头是 (B,T,V) logits 链与激活（正比 B×T，与参数量无关），B=8 曾爆 80G；② HF 梯度累积契约两幕剧（×8 → ÷4），终解 = model_accepts_loss_kwargs=False 退出新式契约；③ 缓存正本纪律：本地生成一次、单向 scp 分发、sha256 对账，两侧独立生成曾花双份钱且内容漂移