2429dad39363a65d5762dc258cef4040f3a76abc
build_batches 改以 QuestionUnit 为原子调度单元:孪生对 2 题整锁进同一 batch、 按单元级正确性(双向 AND)落 correct/error 桶,不再因 P 对 Q 错被劈或被 FFD 拆箱。 - 非 AR(single)用 random.Random(seed) 复现旧逐题算法确切 draw 序列,AR(pair) 用 _rng_ns(seed,"AR") SHA-256 派生独立流;二者 draw 流互不干扰,故 AR 折叠不改变 非 AR 抽样/洗牌序列——纯非 AR 输入 build_batches 结果与引入 QuestionUnit 前逐字节一致。 - FFD 容量按 unit.size(pair 占 2),round-robin 遇碎片新开 bin 兜底而非报错。 - _select_mixed_by_task_type 分流各跑一次后合并,大类洗牌按 kind 拆分各用对应 rng。 新增黄金测试 test_batching_pair_lock.py 覆盖三条铁律(同 batch / 单元分桶 / 非 AR byte-identical + draw 流独立);既有 batching 测试全绿。
Video-Tree-TRM5
在层次化视频树上构建可自我进化的搜索 Agent,实现长视频理解。目标会议:EMNLP 2026。
系统概览
本项目是 Video-Tree-TRM4(MVP)的生产级重构,采用 Clean Architecture 分层设计。
核心思想:自进化循环对标 PyTorch 训练
| PyTorch | 本项目 | 模块 |
|---|---|---|
| DataLoader | 出题 question_gen | app/question_gen/ |
| model.forward() | 推理 inference | app/harness/inference.py + core/agent/loop.py |
| loss.backward() | 诊断 diagnose | core/evolution/diagnose.py |
| optimizer.step() | 进化 evolve | core/evolution/evolve.py |
| nn.Parameter | Skills + Prompts(版本化) | store/skills/, store/prompts/ |
三大模块
| 模块 | 目录 | 说明 |
|---|---|---|
| 建树 | app/tree/ |
离线预处理:VLM 生成三层 TreeIndex(L1段落→L2片段→L3帧),支持字幕注入和后增强 |
| 训练 | app/harness/ + core/ |
自进化循环:推理→诊断→进化,含 CE-Gate 统计检验、信息阶梯、mini-batch 调度 |
| 新题构建 | app/question_gen/ |
生成 Video-MME 风格训练题,原始 benchmark 作 held-out 泛化评测 |
可提取内核
core/agent/ 和 core/evolution/ 只依赖 Protocol 接口,可独立提取用于其他项目。
快速开始
# 1. 创建 Conda 环境
conda create -n Video-Tree-TRM python=3.11 -y
conda activate Video-Tree-TRM
pip install -e ".[dev]"
# 2. 配置环境变量
cp .env.example .env
# 编辑 .env 填入 API 密钥
# 3. 验证
make lint
make test
项目结构
详见 research-wiki/ARCHITECTURE.md。
文档
| 文档 | 说明 |
|---|---|
research-wiki/ARCHITECTURE.md |
系统架构与边界 |
research-wiki/overview.md |
自进化循环总览 |
CLAUDE.md |
Agent 工作指令 |
reference/docs/architecture.md |
建树+检索器参考设计 |
Description
Languages
Python
97.6%
Shell
2.2%
TypeScript
0.2%