iomgaa/ars-opd-rebuild
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
20 Commits 1 Branch 0 Tags
20e6d974271fc3b600bbbe332d1f01d49ac342c5
Commit Graph

20 Commits

This Branch
This Branch
All Branches
Author SHA1 Message Date
iomgaa 20e6d97427 层1/T2: teacher.py 批量生成 + sha256 JSONL 缓存；teacher 改定 MiniMax-M3 
- teacher.py: 通用 OpenAI 兼容客户端（配置驱动 base_url，替代 OpenRouter 专用）；
  缓存即断点（逐条落盘+flush，重跑自动续传）；单条失败先落盘其余、结束汇总显式报错；
  M3 思考段 <think>...</think> 入库前剥离（只剥开头一段）
- configs.py: 新增 TeacherGenConfig（采样参数显式化；连接三元组走 .env）
- scripts/generate_teacher_completions.py: 自包含生成脚本（本地跑，与训练侧
  同 seed 同子集约束已注明）
- teacher 决策变更同步：.env.example / docs/00 关键设定与存档点 / docs/02
- tests/test_teacher.py: 10 个单测（假客户端注入），含与 attach 的端到端契约闭环

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 07:52:53 -04:00
iomgaa f5bb852fde 层1/T4: trainer.py 掩码 SFT 损失 + 最小 HF Trainer 子类（docs/02 §2.4） 
- sft_loss 纯张量函数：batch-min prompt_length、移位切片、labels 重掩码；
  空 batch/无 prompt 行显式报错（参考实现静默归零，差异已标注）
- SFTTrainer 只重写 compute_loss 与 log；不向模型传 labels（防内部损失
  绕过重掩码）；日志并入每步有效 token 数供 sanity 监控
- tests/test_trainer.py: 7 个单测，含手算对拍、移位对齐、窗口外无关性、
  漏切重掩码

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 05:02:41 -04:00
iomgaa 5ea58ddf59 层1/T3: data.py 数据管线——加载、messages 归一、teacher 缓存挂接、双预算 collator（docs/02 §2.2-2.3） 
- to_messages 三分支归一，except:pass 改显式报错（差异标注在注释）
- prompt_key: sha256 内容寻址，作为与 teacher.py 的缓存契约单点定义
- attach_teacher_completions: 缺键一次性报全，绝不静默跳过
- SFTCollator: 双预算截断 + 未截断长度定边界（坑二）+ -100 掩码 + 左 padding；
  prompt-only 行显式报错（层 2 接 on-policy 再放开）
- tests/test_data.py: 19 个单测，玩具字符级 tokenizer 覆盖超长解答/超长题目/
  enable_thinking 双取值/左 padding/缓存契约

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 04:51:19 -04:00
iomgaa 58d75cc56a 层1/T1: SFTConfig dataclass 与构造校验（docs/02 §4） 
- ars_opd/configs.py: 冻结 dataclass，机器路径无默认强制显式传入；
  双预算/enable_thinking/lr 差异均按 §7 规范标注
- __post_init__ 构造即校验，防"completion 预算为零→loss 恒 0"静默空训练
- tests/test_configs.py: 6 个校验测试

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 04:40:45 -04:00
iomgaa 240f404416 工作模式变更入档：层 1 起 Claude 编写代码、用户精读提问；存档点同步 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 04:30:55 -04:00
iomgaa 6c128ad6f5 docs/02：FSDP 决策定案——DDP 到 1.7B，触发点写死（4B 或 seq>8K），env 坑今日消除（脚本头部前置块） 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 04:21:30 -04:00
iomgaa 0bcfc6efd4 层 0 关账：两端环境验收通过（本地 4 passed + 远程 4 passed），存档点进入层 1 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 04:05:17 -04:00
iomgaa 12e2a8b0ae docs: 第二章——层1 SFT 基线开工文档（参考实现解剖+保留/替代/删除清单+任务表）；CLAUDE.md 映射表补 data.py 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 03:51:06 -04:00
iomgaa 77f0419bad roadmap：训练数据定为 DAPO-Math-17K（对齐论文§5.1），登记 φ/β 两处论文-代码默认值背离 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 03:47:30 -04:00
iomgaa 9c0ec15716 setup_remote.sh 自清 pip 残留；存档点记录远程根分区结构性问题（/root/zym 507G） 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 03:39:14 -04:00
iomgaa 991e277316 CLAUDE.md：日志不缓存升级为全局硬规则（含 conda run 事故伤疤标注） 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 03:30:34 -04:00
iomgaa b679bcb24f 修复 setup_remote.sh：弃用 conda run（输出整体缓冲），改为直调环境内 pip/python 实现实时日志 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 03:28:13 -04:00
iomgaa f255d5613a docs: roadmap 增加存档点小节（断点恢复用），登记层 0 当前状态 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 03:20:12 -04:00
iomgaa 270a9ab291 层0：统一依赖清单 + 远程一键搭建脚本 + 密钥模板 2026-07-18 03:00:35 -04:00
iomgaa cccccc0ce6 docs: 新增研究方向记录（RI-1：OmniOPD × ZO-RGD 零阶黎曼优化的三个结合点） 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 02:57:01 -04:00
iomgaa 72799a34dc tests: 预置 π̂ detach 命门守护测试（对应 docs/01 §3.4，层 3 接入真实 estimator） 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 02:32:05 -04:00
iomgaa c9eddd5be8 docs: 修正 π̂ detach 失败机制的方向性错误（压低先验逃逸而非抬高自我强化），补充推导要点 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-18 02:23:49 -04:00
iomgaa d0bedd564c docs: 教学注释规范与接口回看规则入 CLAUDE.md；新增 CLAUDE.md 取舍决策附录 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-17 11:59:05 -04:00
iomgaa 8647c5a89d docs: 第一章——论文精读与参考实现全景映射（含实现与论文差异清单） 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-17 11:29:20 -04:00
iomgaa 6dc13314d8 仓库骨架：README、CLAUDE.md、分层重构路线图（docs/00-roadmap.md） 
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
 2026-07-17 11:26:11 -04:00