Hugging Face's logo

Datasets:
JulianHJR
/
8b

Modalities:
Text
Formats:
text
Size:
< 1K
ArXiv:
Libraries:
Datasets
Dataset card Data Studio Files
xet
 Community
Dataset Viewer
Auto-converted to Parquet Duplicate
text
stringclasses
6 values
torch>=2.2.0
transformers>=4.45.0
huggingface_hub>=0.23.0
datasets>=2.18.0
numpy>=1.26.0
tqdm>=4.66.0

YAML Metadata Warning:empty or missing yaml metadata in repo card

Check out the documentation for more information.

v13: Reflection Direction Steering on DeepSeek-R1-Distill-Llama-8B

目标会议:AAAI 2026 main track(7 月底截稿) 对标论文:ReflCtrl, arXiv 2512.13979(UCSD, NeurIPS MI 2025)

0. 一句话定位

v12 在 Qwen3-30B-Thinking 上做 all-token + 投影移除,反思降 78%、tokens 降 49%、acc +5~10%。 v13 把同一套方法迁移到 DS-R1-Distill-Llama-8B + stepwise + MATH-500 完整 eval,直接对标 ReflCtrl Table 2(他们 33.6% token 节省的最强结果)。

1. v13 修了什么(vs 你的原始版本)

在你给的 v13 里我发现了 5 个 hard bug 和 3 个 AAAI 致命缺口,这次都修好:

🔴 直接让代码跑不起来的

Bug 修复
configs/__init__.py 导入 ReflectionConfig 类,但 configs/reflection.py 只有模块级常量 → ImportError 把 reflection.py 包装成 class
scripts/05_select_layers.py 只有 --output,但 scripts/08_ablation_nlayers.py 传 --output-suffix → crash 给 05 加 --output-suffix
scripts/08 调 06_infer 时没传 selection-file 和 output-file,5 个 N 配置会覆盖同一个 cache 重写 08,正确传递两个参数
stepwise_generate_with_alpha 没用 KV cache,O(n²),400 题 × 4 alpha × 8192 tok 实际不可行(几百小时) 重写为 KV-cache 版本,O(n),提速 ~50-100×
06_infer_math500.py 里 r"\\b" raw string(字面量 \b)而非词边界 → true_reflections 永远 = 0 改成 r"\b"

🟡 AAAI 致命缺口

缺口 修复
_key 不含 seed → 3-seed 跑会互相覆盖 key 加 seed=N 前缀 + paths.py 加 infer_cache_for(seed)
没有 stepwise vs all-token 消融(ReflCtrl §4.3 的核心,reviewer 必杀) 加 scripts/10_ablation_stepwise.py + 对应 sbatch
09_compare_reflctrl 没有 3-seed 聚合,无法和 ReflCtrl N=10 样本对比 重写 09 支持 cross-seed mean±std

其他改动

  • runall.sh:加 SEED 环境变量、加 STAGES 过滤、加 FORCE_STAGES 强制重跑
  • paths.py:加 infer_cache_for(seed, tag) / judged_for / summary_for
  • 07_judge.py:支持多 --input-file(一次性 judge 3 个 seed 的 cache);verdict 解析改为读最后一行,避免 CoT 里出现 "incorrect" 字样误判
  • 09_compare_reflctrl.py:加 ReflCtrl Table 2 的 strength=-0.48 中间点,做剂量曲线对比

2. 完整目录(我交付的) 

v13/
├── README.md                                ← 本文件
├── runall.sh                                ← 主驱动,SEED 与 STAGES 可控
├── requirements.txt
├── configs/
│   ├── __init__.py                          ← registry
│   ├── paths.py                             ← 加了 per-seed 路径助手
│   └── reflection.py                        ← FIXED: 包装成 ReflectionConfig class
├── src/
│   ├── __init__.py
│   ├── utils.py
│   ├── contrastive_capture.py
│   ├── directions.py                        ← PCA + ortho,no MoE
│   ├── interventions.py                     ← REWRITTEN: KV-cache stepwise(关键提速)
│   ├── calibration.py
│   └── detectors.py
├── scripts/
│   ├── 00_init.py                           ← 下载 8B 模型 + MATH-500
│   ├── 01_generate_contrastive_cots.py      ← MATH-500[0:100] 高/低反思配对
│   ├── 02_capture_contrastive.py            ← 抽残差激活
│   ├── 03_build_directions.py               ← PCA 去噪 + 正交化
│   ├── 04_calibrate.py                      ← 逐层 α 校准
│   ├── 05_select_layers.py                  ← FIXED: 加 --output-suffix
│   ├── 05b_search_toplayers.py              ← top-N prefix sweep
│   ├── 06_infer_math500.py                  ← REWRITTEN: KV-cache + seed in key + regex fix
│   ├── 07_judge.py                          ← REWRITTEN: 多 seed + 鲁棒 verdict
│   ├── 08_ablation_nlayers.py               ← FIXED: 正确传 selection/output
│   ├── 09_compare_reflctrl.py               ← REWRITTEN: 多 seed 聚合 + 完整 Table 2
│   └── 10_ablation_stepwise.py              ← NEW: stepwise vs all-token 消融
└── slurm/
    ├── run-v13-prep.sbatch                  ← init+gen+capture+directions+calibrate+select
    ├── run-v13-infer-array.sbatch           ← 3 seeds 并行推理(array job)
    ├── run-v13-judge.sbatch                 ← 一次性 judge 3 seeds + compare
    ├── run-v13-ablation-n.sbatch            ← N=4/6/8/10/12/all 消融
    └── run-v13-ablation-stepwise.sbatch     ← stepwise vs all-token 消融

3. 怎么跑(SLURM,推荐流程)

一次性环境准备 

# 1. 把 v13 zip 上传到 server,然后:
cd ~/jrhu
unzip v13_FIXED.zip       # 解压成 ~/jrhu/v13/
cd v13
chmod +x runall.sh
ls slurm/                  # 确认 5 个 sbatch 都在

流程一:准备阶段(~10-15h,单 GPU) 

cd ~/jrhu/v13
sbatch slurm/run-v13-prep.sbatch
# 这一步顺序跑 6 个 stage:init -> gen -> capture -> directions -> calibrate -> select
# 完成后会写 data/logs/.done_* marker。可以中途 cancel 然后重新 sbatch,会自动 resume。

期望产出:

  • data/models/DeepSeek-R1-Distill-Llama-8B/ (~16GB)
  • data/math500.jsonl (500 题)
  • data/cots/raw_cots.jsonl (100 对 high/low CoT)
  • data/reflection/checkpoints/directions_reflection.pt (每层方向)
  • data/reflection/checkpoints/calibration_reflection.json (每层 best α + mono flag)
  • data/reflection/checkpoints/selected_layers_reflection.json (mono-only 全集层选择)

流程二:主推理(并行,~6-12h × 3 任务) 

sbatch slurm/run-v13-infer-array.sbatch
# 这是 array job,SLURM 自动 spawn 3 个 task,每个跑一个 seed
# squeue -u $USER 看进度
# 每个 task 写到 data/reflection/results/infer_cache_seed{0,1,2}.jsonl

为什么 array job 是关键:KV-cache fix 后单 seed 仍需 ~6-12h(400 题 × 4 alpha)。串行 3 seed 就是 ~30h。array job 让 3 个 seed 完全并行,实际墙钟时间 = 一个 seed 的时间。

流程三:Judge + 对比(~6-10h) 

# 等 array job 全部 done(squeue 里看不到 v13-infer 了)
sbatch slurm/run-v13-judge.sbatch
# 这一步用 Qwen3-30B 当 judge,跑完会在 stdout 打印对比表

期望产出:

  • data/reflection/results/acc07_judged.jsonl (3 seed × 400 题 × 4 alpha = 4800 条 verdict)
  • data/reflection/results/acc07_summary.json (cross-seed mean±std)
  • data/reflection/results/compare_reflctrl.json (vs ReflCtrl Table 2)
  • 终端打印一张完整对比表

流程四:消融(可选,与主推理并行) 

# 这两个可以在 prep done 后立刻 sbatch,不必等 infer-array 结束
sbatch slurm/run-v13-ablation-n.sbatch         # N=4/6/8/10/12/all
sbatch slurm/run-v13-ablation-stepwise.sbatch  # stepwise vs all-token

4. 完整顺序总结 

# 步骤 1: 准备(必跑,等它完成)
sbatch slurm/run-v13-prep.sbatch

# 等 sbatch_prep 完成(squeue -u $USER 不见这个 job)

# 步骤 2: 主推理(3 seed 并行) + 消融(并行)
sbatch slurm/run-v13-infer-array.sbatch
sbatch slurm/run-v13-ablation-n.sbatch         # 可选,可并行
sbatch slurm/run-v13-ablation-stepwise.sbatch  # 可选,可并行

# 等所有 v13-infer-* job 完成

# 步骤 3: Judge + 对比
sbatch slurm/run-v13-judge.sbatch

# 步骤 4: 看结果
cat data/reflection/results/compare_reflctrl.json | python -m json.tool
cat data/reflection/results/ablation_n_report.json | python -m json.tool

5. 怎么看结果(成功标准)

主对比(vs ReflCtrl Table 2)

打开 data/reflection/results/compare_reflctrl.json,或看 slurm-v13-judge-*.out 末尾打印的表。

期望(假设我们的方法真的更强):

方法 acc tokens tok save
Vanilla(α=1.0,3 seed 均值) 0.86 ± 0.01 ~4000 0%
Ours α=0.7(轻度抑制) ≥ 0.86 ~3000 ~-25%
Ours α=0.0(最大抑制) ~0.82 ~2200 ~-45%
ReflCtrl strength=-0.96 0.821 2738 -31.6%

关键判定:

  • 如果 α=0 acc ≥ 0.821(ReflCtrl 同等)且 tok < 2738 → 我们打赢 ReflCtrl,冲 AAAI main
  • 如果 acc 在 0.78-0.82 之间但 tok 显著低 → 持平,workshop 稳了,main 看运气
  • 如果 acc < 0.78 → 我们的方法在这个模型上不如 ReflCtrl,直接转 workshop

N-layer 剂量响应(vs ReflCtrl Figure 6)

ReflCtrl 只做了"跳过前/后 k 层"的简单分析,我们做完整 N=4/6/8/10/12/all。 论文卖点:我们能精确找到甜点 N,这是 ReflCtrl 没有的 axis。

期望:N=4 太少(acc 保持但 tok 节省不够)→ N=8-10 甜点 → N=all 复读崩塌。

Stepwise vs all-token

这是防守性消融。ReflCtrl §4.3 主张 all-token 在高强度下退化、stepwise 不退化。 如果我们的 v13 stepwise 和 all-token 表现相近(都不崩),说明我们的层选择 + 正交化已经规避了 all-token 的问题,可以用作论文 claim:"层选择正确时不需要 stepwise"。 如果 all-token 在 α=0 真的崩了,我们就老实承认 stepwise 是 mandatory,论文还是能写,但 novelty 弱一些。

6. 时间预算(用 KV-cache fix 后)

阶段 单 GPU 时间 说明
Prep 10-15h 模型下载 2h + 100 对 gen 4h + capture 1h + calibrate 5-7h
Infer (per seed) 6-12h KV-cache fix 关键。400 × 4 = 1600 推理
Infer (3 seeds parallel) 6-12h 墙钟 array job 关键
Judge 6-10h 4800 个 verdict,Qwen-30B
Ablation N 12-18h 6 个 N × 100 题 × 2 alpha + judge
Ablation stepwise 6-8h 100 题 × 4 alpha × 2 模式 + judge
总(最快路径) ~30-40h 墙钟 prep -> infer-array -> judge
总(含消融) ~50-60h 墙钟 加并行消融

7. 单步调试 / 失败时怎么 resume

每个 stage 都有 data/logs/.done_* marker,默认自动跳过已完成。要强制重跑某个 stage:

# 例:强制重跑 directions 和 calibrate
STAGES=directions,calibrate FORCE_STAGES=directions,calibrate bash runall.sh

# 例:只跑某一个 stage
STAGES=infer SEED=0 bash runall.sh

# 例:某个 sbatch 失败了,重提单个 array task
sbatch --array=1 slurm/run-v13-infer-array.sbatch

8. AAAI 投稿叙事建议(基于现在的资源 + v12 已有数据)

论文标题方向:

Stepwise Reflection Steering on Distilled Reasoning Models: A Layer-Sparse, Orthogonalized Approach with Verified Direction Purity

核心 claim 三段:

  1. 方法:对比提示提取反思方向 → PCA 去噪 → 通用激活正交化 → 单调层筛选 → KV-cache stepwise 干预
  2. 结果(预期):
    • DS-R1-Llama-8B on MATH-500,3 seed,vs Vanilla 0.86 acc / 4000 tok
    • 我们 α=0:acc ≥ 0.83(超过 ReflCtrl 的 0.821),tok ~2300(节省 -42% vs ReflCtrl 的 -31.6%)
    • 跨模型:Qwen3-30B-Thinking 同套方法,反思降 78%、tokens 降 49%、acc +5~10%(v12 已有数据,直接复用)
  3. 机制:
    • N-layer 剂量响应找到 N=8 甜点(预期)
    • Stepwise vs all-token 消融:层选择正确时两者相近(新 claim,ReflCtrl 没有)
    • MoE 实证无效(v12 数据)→ 正交化才是 collapse 必要防护

和 ReflCtrl 的差异点(reviewer 一定会问):

  • 我们用 投影移除(h - (1-α)·DᵀD·h)而非 加法干预(z + λd)
  • 我们用 mean-diff + PCA + 正交化(三件套)而非单纯 mean-diff
  • 我们做 逐层 α 校准 + 单调筛选,他们用统一 strength
  • 我们有 N-layer 剂量响应,他们只有跳过前/后 k 层
  • 我们在 MoE 模型上有跨模型验证,他们只测 dense

9. 已知风险

  1. 8B 模型的反思基线可能远低于 30B-Thinking:DS-R1-Distill 单题 baseline 反思可能只有 5-10,意味着可压缩空间小,token 节省幅度自然变弱。这是论文里要诚实交代的。
  2. MATH-500 baseline acc 在 8B 上是 0.86,提升空间不大:很难像 v12 那样做出 +5% acc 提升,可能只能做到持平 + tok 节省。这意味着论文要靠 token 节省 + N-ablation + stepwise 消融来打,acc 改进可能不是 headline。
  3. Judge model 准确性:Qwen3-30B 作 judge 信度需要在 paper 里附 50 题人工核对(workshop 也是)。

10. 我做错了什么(诚实坦白)

  • 我把 v12 跨模型迁移当成 "应该 work" 的事,但 8B 上的真实数据出来前一切都是估计。MATH-500 跑完后,数字可能没有 v12 那么漂亮。
  • N=8/10 是不是真甜点,我没有 dose-response 数据支持,只是基于 ReflCtrl Figure 6 的预期。
  • Stepwise vs all-token 消融的结果是开放的:如果 all-token 真的崩,我们的整个 "层选择规避了 collapse" claim 就动摇了。

所以:跑完 prep + 一个 seed 的 infer + judge 后,先看数字再决定是冲 main 还是转 workshop。不要一口气把 3 seed + 消融都跑了再看结果,那样浪费 GPU。
Downloads last month
7
Number of rows:
6
Total file size:
123 kB

Paper for JulianHJR/8b