 iomgaa
|
f1b6d1f668
|
修复: 禁用 HF Xet（hf-mirror 不代理 CAS，teacher 4B 下载 401）
远程冒烟实撞：hf-mirror 供小文件正常，但大权重走 Xet 协议会绕过镜像直连
cas-server.xethub.hf.co 并返 401 Unauthorized。加 HF_HUB_DISABLE_XET=1 退回
经典 HTTP/LFS 下载路径（镜像支持）。两个训练脚本都加，防层 1 换机重下也撞。
Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
|
2026-07-19 05:58:16 -04:00 |
|
|
iomgaa
|
a0faec0df7
|
层1: 修复远程 sanity OOM——per_device batch 8→2、累积 2→8（全局 64 不变）
根因：150k 大词表下显存大头是 (B,T,V) logits 链（fp32 ~20G@B=8）与逐层激活，
均正比于 B 而与 0.6B 参数量无关。docs/02 §2.6 旧显存估算勘误入档；
train_sft.sh 加 expandable_segments 防碎片。
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
|
2026-07-18 09:21:38 -04:00 |
|
|
iomgaa
|
c5a3b7d0bb
|
层1/T5: 自包含训练脚本 train_sft.sh + train_sft.py；层 1 代码收口
- train_sft.py: FSDP 环境变量前置块（import 前，DDP 下无害）；fail-fast 加载
顺序（数据→tokenizer→模型）；首样本自检打印（真 tokenizer 掩码边界肉眼核对）；
remove_unused_columns=False 等非显然约束逐条注释；sanity 模式 = replace 覆盖
- train_sft.sh: 显式 CUDA_VISIBLE_DEVICES 4 卡、PYTHONUNBUFFERED、HF 镜像/缓存
改道 /data，前置检查清单（含 scp 数据命令）
- 本地验证：fail-fast 到 teacher 缓存缺失处显式报错（941/1000，59 条真实命中
反向证明 prompt_key 契约端到端成立）
- roadmap 存档点：层 1 代码完成，进入运行阶段
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
|
2026-07-18 08:16:24 -04:00 |
|