2 Commits

Author	SHA1	Message	Date
iomgaa	a0faec0df7	层1: 修复远程 sanity OOM——per_device batch 8→2、累积 2→8（全局 64 不变） ... 根因：150k 大词表下显存大头是 (B,T,V) logits 链（fp32 ~20G@B=8）与逐层激活， 均正比于 B 而与 0.6B 参数量无关。docs/02 §2.6 旧显存估算勘误入档； train_sft.sh 加 expandable_segments 防碎片。 Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>	2026-07-18 09:21:38 -04:00
iomgaa	c5a3b7d0bb	层1/T5: 自包含训练脚本 train_sft.sh + train_sft.py；层 1 代码收口 ... - train_sft.py: FSDP 环境变量前置块（import 前，DDP 下无害）；fail-fast 加载 顺序（数据→tokenizer→模型）；首样本自检打印（真 tokenizer 掩码边界肉眼核对）； remove_unused_columns=False 等非显然约束逐条注释；sanity 模式 = replace 覆盖 - train_sft.sh: 显式 CUDA_VISIBLE_DEVICES 4 卡、PYTHONUNBUFFERED、HF 镜像/缓存 改道 /data，前置检查清单（含 scp 数据命令） - 本地验证：fail-fast 到 teacher 缓存缺失处显式报错（941/1000，59 条真实命中 反向证明 prompt_key 契约端到端成立） - roadmap 存档点：层 1 代码完成，进入运行阶段 Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>	2026-07-18 08:16:24 -04:00