 iomgaa
|
404abc22bf
|
重构: load_sft_dataset 改吃散装参数（磨平接口回看记录的毛刺）
深模块修正：本函数只用 5 个字段，却索要整个 SFTConfig——层 1 无痛，但诊断脚本
被迫伪造 output_dir（4 处 /tmp/diag、outputs/_unused），层 2 更因 DistillConfig
无 teacher_completions_path 而无法复用。改收 dataset_path/split/subset_size/seed/
teacher_completions_path 五个散装参数（接口终于比实现轻）。
- data.py: 签名改散装参数；移除 TYPE_CHECKING 的 SFTConfig 依赖
- train_sft / diag_loss_probe / diag_collator: 仍持 SFTConfig（喂 collator），改调用点
- diag_generate / generate_teacher_completions: 只为 load 而造 config，直接丢弃、
去掉伪造 output_dir，改传字面量
- 为 U5 层 2 训练脚本能直接 load_sft_dataset(distill_cfg 的字段) 铺路
Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
|
2026-07-19 05:21:16 -04:00 |
|
|
iomgaa
|
a0faec0df7
|
层1: 修复远程 sanity OOM——per_device batch 8→2、累积 2→8（全局 64 不变）
根因：150k 大词表下显存大头是 (B,T,V) logits 链（fp32 ~20G@B=8）与逐层激活，
均正比于 B 而与 0.6B 参数量无关。docs/02 §2.6 旧显存估算勘误入档；
train_sft.sh 加 expandable_segments 防碎片。
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
|
2026-07-18 09:21:38 -04:00 |
|
|
iomgaa
|
c5a3b7d0bb
|
层1/T5: 自包含训练脚本 train_sft.sh + train_sft.py；层 1 代码收口
- train_sft.py: FSDP 环境变量前置块（import 前，DDP 下无害）；fail-fast 加载
顺序（数据→tokenizer→模型）；首样本自检打印（真 tokenizer 掩码边界肉眼核对）；
remove_unused_columns=False 等非显然约束逐条注释；sanity 模式 = replace 覆盖
- train_sft.sh: 显式 CUDA_VISIBLE_DEVICES 4 卡、PYTHONUNBUFFERED、HF 镜像/缓存
改道 /data，前置检查清单（含 scp 数据命令）
- 本地验证：fail-fast 到 teacher 缓存缺失处显式报错（941/1000，59 条真实命中
反向证明 prompt_key 契约端到端成立）
- roadmap 存档点：层 1 代码完成，进入运行阶段
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
|
2026-07-18 08:16:24 -04:00 |
|