docs/02:FSDP 决策定案——DDP 到 1.7B,触发点写死(4B 或 seq>8K),env 坑今日消除(脚本头部前置块)
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
This commit is contained in:
@@ -56,7 +56,9 @@ F.cross_entropy(..., ignore_index=-100)
|
|||||||
|
|
||||||
### 2.6 基础设施笔记(0.6B 用不上但要知道)
|
### 2.6 基础设施笔记(0.6B 用不上但要知道)
|
||||||
|
|
||||||
参考实现用 torchrun + FSDP,有个著名 trick:`FSDP_ACTIVATION_CHECKPOINTING` 环境变量必须在 import accelerate/transformers **之前**设置(train_dist:15-21),且 `TrainingArguments.gradient_checkpointing` 在 FSDP 下是 no-op(train_dist:390-393)。**0.6B 学生 4×A800 用 DDP 即可**(每卡放得下整模型),FSDP 这套留到未来换大学生时再启用——知识入档,代码不搬。
|
参考实现用 torchrun + FSDP,有个著名 trick:`FSDP_ACTIVATION_CHECKPOINTING` 环境变量必须在 import accelerate/transformers **之前**设置(train_dist:15-21),且 `TrainingArguments.gradient_checkpointing` 在 FSDP 下是 no-op(train_dist:390-393)。
|
||||||
|
|
||||||
|
**我们的决策(2026-07-18 讨论定)**:0.6B 乃至 1.7B 学生 4×A800 都用 **DDP**(显存账:1.7B 全套 ~27G/卡,80G 舒适);FSDP 触发点 = **换 4B 学生或序列 >8K**。但"import 前设环境变量"这个坑**今天就消除**:T5 训练脚本头部从第一天起内置 `os.environ.setdefault("FSDP_ACTIVATION_CHECKPOINTING", ...)` 前置块——DDP 下无害 no-op,未来启用 FSDP 时只改 TrainingArguments 字段,核心模块零改动。启用后必须 `nvidia-smi` 实测显存验证生效(分布式配置"设置了但静默无效"是常态,不可信配置)。另:层 2-5 坚持 DDP 还有调试纯度考量——on-policy 生成/ref model 搬运与 FSDP 的交界是参考实现最毛的地方,先保证"出错必是算法错"。
|
||||||
|
|
||||||
## 3. 保留 / 替代 / 删除清单(CLAUDE.md §6.2 规定动作)
|
## 3. 保留 / 替代 / 删除清单(CLAUDE.md §6.2 规定动作)
|
||||||
|
|
||||||
|
|||||||
Reference in New Issue
Block a user