Logo
Explore Help
Register Sign In
iomgaa/ars-opd-rebuild
1
0
Fork 0
You've already forked ars-opd-rebuild
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
Files
a0faec0df7b5d5e88e5479c9fdb371f0f23f08f3
ars-opd-rebuild/docs
T
History
iomgaa a0faec0df7 层1: 修复远程 sanity OOM——per_device batch 8→2、累积 2→8(全局 64 不变)
根因:150k 大词表下显存大头是 (B,T,V) logits 链(fp32 ~20G@B=8)与逐层激活,
均正比于 B 而与 0.6B 参数量无关。docs/02 §2.6 旧显存估算勘误入档;
train_sft.sh 加 expandable_segments 防碎片。

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
2026-07-18 09:21:38 -04:00
..
00-roadmap.md
docs: roadmap 索引同步(第三章已写待读)
2026-07-18 08:34:45 -04:00
01-paper-code-map.md
docs: 修正 π̂ detach 失败机制的方向性错误(压低先验逃逸而非抬高自我强化),补充推导要点
2026-07-18 02:23:49 -04:00
02-sft-baseline.md
层1: 修复远程 sanity OOM——per_device batch 8→2、累积 2→8(全局 64 不变)
2026-07-18 09:21:38 -04:00
03-whitebox-opd.md
docs: 第三章勘误——off-policy 切片是数据轨迹上的 KL 蒸馏而非混 SFT;补 prompt-only 下静默空转的说明
2026-07-18 09:02:41 -04:00
appendix-claudemd-decisions.md
docs: 教学注释规范与接口回看规则入 CLAUDE.md;新增 CLAUDE.md 取舍决策附录
2026-07-17 11:59:05 -04:00
research-ideas.md
docs: 新增研究方向记录(RI-1:OmniOPD × ZO-RGD 零阶黎曼优化的三个结合点)
2026-07-18 02:57:01 -04:00
Powered by Gitea Version: 26.4.0 Page: 38ms Template: 2ms
Auto
English
Bahasa Indonesia Deutsch English Español Français Gaeilge Italiano Latviešu Magyar nyelv Nederlands Polski Português de Portugal Português do Brasil Suomi Svenska Türkçe Čeština Ελληνικά Български Русский Українська فارسی മലയാളം 日本語 简体中文 繁體中文(台灣) 繁體中文(香港) 한국어
Licenses API