 iomgaa
|
8b362eae09
|
层2: max_grad_norm 提进 DistillConfig（显式化静默稳定器）+ noclip 对照模式
首冒烟发现：sanity 的 loss 平滑、无预期毛刺，因 HF 默认 max_grad_norm=1.0 把
反向 KL 的梯度爆炸（§4.1，实测 grad_norm 14→2 是裁剪前范数）默默压平了——正是
本项目要堵的"静默行为"。
- configs.py: DistillConfig 加 max_grad_norm=1.0（默认=原 HF 行为），docstring 讲清
它是 §4.1 爆炸的隐形稳定器、日志 grad_norm 是裁剪前值；__post_init__ 校验 >0
- train_whitebox.py: FULL 显式写出、TrainingArguments 传入；build_config 加 noclip
模式（max_grad_norm=1e9≈关裁剪 + lr 5× + 15 步）暴露原始爆炸供教学对照
- .sh: 用法加 noclip 模式说明
Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
|
2026-07-19 08:34:14 -04:00 |
|
|
iomgaa
|
f1b6d1f668
|
修复: 禁用 HF Xet（hf-mirror 不代理 CAS，teacher 4B 下载 401）
远程冒烟实撞：hf-mirror 供小文件正常，但大权重走 Xet 协议会绕过镜像直连
cas-server.xethub.hf.co 并返 401 Unauthorized。加 HF_HUB_DISABLE_XET=1 退回
经典 HTTP/LFS 下载路径（镜像支持）。两个训练脚本都加，防层 1 换机重下也撞。
Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
|
2026-07-19 05:58:16 -04:00 |
|
|
iomgaa
|
b7f24d635e
|
层2/U5: white-box OPD 自包含训练脚本（train_whitebox.py + .sh）
对应 docs/03 §5 U5，对齐层 1 train_sft 骨架，换成层 2 装配：
- 双模型：student Qwen3-0.6B(fp32+bf16混训) + teacher Qwen3-4B(bf16 推理)
- prompt_only collator（无 teacher 缓存，现场 on-policy 生成）
- DistillTrainer 装配：teacher_model/teacher_tokenizer + beta/温度/生成参数
- FULL = §5 默认（beta=1、lr=1e-6、B=4×GA=4×4卡=全局64、max_new_tokens=1024）
- 首 prompt 自检（末尾须为生成引导符）；sanity=50步冒烟
- .sh 前置清单强调白盒扛两份全词表 logits、OOM 阶梯、首跑下载 4B teacher
Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
|
2026-07-19 05:23:42 -04:00 |
|