ATLANTIS：把“小模型学会了什么”变成大模型的 SFT 样本权重，真的是重要性采样吗？

0. 链接验证表与证据边界

下列 URL 均在 2026‑09‑07 实际访问。所有数字来自本次下载、逐页读取的论文 PDF；网页只用于核验 venue、版本日期和公开资产。核心证据采用 ACL Anthology 定稿，PDF 共 11 页、论文集页码 1042–1052。精确标题检索未找到核心论文的 arXiv 条目和作者代码；这与“绝对不存在”不同，故均写成“未找到”。OpenReview 论坛与附件可到达，但其匿名投稿稿不替代 ACL 定稿。Hugging Face Daily Papers 与 Papers with Code 的精确标题检索未返回核心论文独立条目；Semantic Scholar 有正式记录。

索引交叉检查：核心论文可在 Semantic Scholar 检索；OpenReview 与 ACL 正式页一致指向该标题。候选首先从 ACL 2025 Main 正式 proceedings 与 ACL Anthology 建立，再用 arXiv、OpenReview、Hugging Face Daily Papers、Papers with Code 和 Semantic Scholar 做版本、代码与重复项核对。未把聚合站摘要当作数字证据。

1. 候选池、去重与随机选择

先读取 ml-report-index.md，排除最近 14 天已深度覆盖的 Alignment Potential 偏好数据筛选、AVUT 多模态评测、Emergent Misalignment 窄域微调错位，并避开同期系统、视觉和生成论文。候选全部来自 ACL 2025 Main 长文，距本次运行不足 24 个月；完整三列清单保存为 candidates_2026-09-07.tsv。执行 shuf -i 1-24 -n 1，真实输出 18；命中 ATLANTIS。其定稿含主矩阵、数据选择组合、跨架构、模型规模和 proxy-tuning 对照，资料足够，故 0 次重抽。

1. M‑RewardBench: Evaluating Reward Models in Multilingual Settings
2. ELABORATION: A Comprehensive Benchmark on Human‑LLM Competitive Programming
3. Intuitive Fine‑Tuning: Towards Simplifying Alignment into a Single Process
4. StrucText‑Eval: Evaluating LLM Reasoning in Structure‑Rich Text
5. GAPO: Learning Preferential Prompt through Generative Adversarial Policy Optimization
6. Tree‑of‑Evolution: Tree‑Structured Instruction Evolution for Code Generation
7. FACT‑AUDIT: Adaptive Multi‑Agent Fact‑Checking Evaluation
8. Capture the Key in Reasoning to Enhance CoT Distillation Generalization
9. UniICL: Unifying Compression, Selection, and Generation
10. RuleArena: Rule‑Guided Reasoning in Real‑World Scenarios
11. Semantic Exploration with Adaptive Gating
12. JuStRank: Benchmarking LLM Judges for System Ranking
13. Efficient and Accurate Prompt Optimization with Memory
14. BPP‑Search: Tree‑of‑Thought for Mathematical Modeling
15. EvoWiki: Evaluating LLMs on Evolving Knowledge
16. ProcessBench: Identifying Process Errors in Mathematical Reasoning
17. Model Extrapolation Expedites Alignment
18. ATLANTIS: Weak‑to‑Strong Learning via Importance Sampling
19. HALoGEN: Fantastic LLM Hallucinations and Where to Find Them
20. Wait, that’s not an option: Robustness with Incorrect MCQ Options
21. MARS: Metaphysical Reasoning Benchmark
22. Ask‑Before‑Detection: Conformity Bias in Math Error Detection
23. Disentangling Memory and Reasoning Ability in LLMs
24. UnSeenTimeQA: Time‑Sensitive QA Beyond Memorization

2. Motivation：SFT 的问题不只是哪条数据“质量高”

普通 SFT 最小化训练分布 p_d 上的负对数似然，但我们真正希望模型覆盖的是不可枚举的现实语言分布 p*。论文的痛点不是单纯清洗坏样本，而是：即使每条训练样本本身高质量，有限的人类标注或模型合成语料仍可能在话题、表达方式、难度与偏好上偏离部署分布。持续扩充数据昂贵；只按“质量分”删数据也未必修正方向偏差（核心 PDF p.1 / 论文集 p.1042，§1）。

ATLANTIS 试图把这个不可观测问题改造成一个可计算的代理问题。设一个小基座模型 p_b^S 与其官方指令微调版本 p_r；若某条回答从基座到指令模型概率上升得多，作者把它解释为“这条样本沿着更理想的方向”。同系列大基座 p_b^L 再提供尺度校正。于是，不额外训练奖励模型，也不先选掉大部分样本，便可给每条训练对一个 influence weight。

量化动机来自两个对照。第一，主表覆盖 Llama2‑13B、Qwen2‑7B、Gemma2‑9B 和八个指标，ATLANTIS 在 23/24 个配对上高于 vanilla SFT；唯一退步是 Qwen2‑7B 的 Arena‑Hard‑Auto，9.9→9.5（−0.40 pp，−4.04%）（核心 PDF p.5 / p.1046，表 2；本报告复算）。第二，附录 proxy-tuning 对照中，Qwen2‑7B 的 MT‑Bench pairwise 为 SFT 25.63、proxy‑tuning 7.91、ATLANTIS 26.25，表明把小模型位移用于训练权重，在该设置下远强于直接在解码时叠加 logits（核心 PDF p.11 / p.1052，表 7）。但这只是一个模型、两个 benchmark，不能推出普遍优越。

3. 论文故事线、核心假设与权衡

论文故事分四步。第一，写出理想目标：在 p* 下训练。第二，用重要性采样把不可直接采样的期望改写到可用参考分布 p_r。第三，因为 p*/p_r 仍不可算，借用 proxy-tuning 的概率位移可迁移假设：小模型从 base 到 tuned 的变化，与大模型从 base 到理想状态的变化成比例。第四，把得到的比值变成样本权重，照常更新大模型（核心 PDF pp.2–4 / pp.1043–1045，式 1–8、算法 1）。

它依赖三层假设：

• 目标假设： 存在一个统一“真实世界最优分布” p*，可同时代表知识、指令遵循和人类偏好。现实中不同用户与任务常互相冲突，论文没有定义该分布的测度空间或目标人群。
• 比例迁移假设： p*/p_b^L ∝ p_r/p_b^S。这是由 proxy-tuning 的经验动机借来，并非本论文证明的定理。
• 数据来源假设： 训练回答可以视作从 p_r 采样；但实际训练集是 OpenHermes‑2.5 的混合合成语料，而 p_r 是官方 chat/instruct 模型条件分布，两者并不天然相同。

权衡也很直接：ATLANTIS 不丢样本，能和 IFD、Superfiltering 组合；代价是预先对每条样本运行大基座、小基座和参考模型以计算序列概率。训练时只多一个标量乘法，数据预处理却多出三路前向推理。论文没有报告 token/s、GPU-hour、缓存大小或整体墙钟，因此“额外成本可接受”只能视为作者判断（核心 PDF p.9 / p.1050，Limitations）。

4. 方程级形式化：从严格恒等式到代理启发式

理想目标为：

L*(θ) = − E_{x~q, y~p*(·|x)} log p_θ(y|x)                         (1)

普通 SFT 用实际数据分布 p_d 代替：

L_SFT(θ) = − E_{x~q, y~p_d(·|x)} log p_θ(y|x).                  (2)

若 p_r(y|x)>0 覆盖 p*(y|x)>0 的支撑集，重要性采样恒等式是：

L*(θ) = − E_{x~q, y~p_r} [ p*(y|x) / p_r(y|x) · log p_θ(y|x) ]. (6)

到这里是标准换测度。困难是 p* 不可计算。论文设大基座 p_b^L、小基座 p_b^S 和小参考模型 p_r，假定：

p*(y|x) / p_b^L(y|x)  ∝  p_r(y|x) / p_b^S(y|x).

于是：

p*(y|x) / p_r(y|x)  ∝  p_b^L(y|x) / p_b^S(y|x),
L_ATL(θ) ∝ −E_{x~q,y~p_r}[ w(x,y) log p_θ(y|x) ],
w(x,y)=p_b^L(y|x)/p_b^S(y|x).                                 (7)

核心 PDF p.4 的算法 1 又将预计算集合写成含 p_r(y_i|x_i) 的项，再在 minibatch 中使用 W_i/|B|。这反映了实现层面的经验加权，但论文没有公开代码来确认：序列概率是 token 乘积、平均 log-prob 还是长度归一化；是否在 log 域计算；是否裁剪/自归一化；极端权重如何处理。若直接使用全序列概率比，exp(Σ_t Δlog p_t) 会随长度指数变化，数值稳定和长度偏置都可能主导结果。

训练流程伪代码

输入：大基座 p_b^L，小基座 p_b^S，小指令模型 p_r，OpenHermes 数据 D
for (x_i, y_i) in D:
    a_i ← sequence_logprob(p_b^L, y_i | x_i)
    b_i ← sequence_logprob(p_b^S, y_i | x_i)
    c_i ← sequence_logprob(p_r,   y_i | x_i)
    w_i ← exp(a_i − b_i)             # 论文理论式 7 的核心代理
    # 算法 1 的记号还出现 p_r 项；实现细节未公开，无法消歧
cache {(x_i,y_i,w_i)}

θ ← parameters(p_b^L)
for minibatch B:
    loss ← − Σ_{i∈B} w_i log p_θ(y_i|x_i) / |B|
    θ ← AdamW(θ, ∇loss)
输出：加权 SFT 模型

5. 关键机制与工程细节

6. 数据集、基准与指标

论文称知识与理解使用 lm-evaluation-harness，偏好使用 MT‑Bench、AlpacaEval、Arena‑Hard‑Auto；全部方向为越高越好（核心 PDF p.5 / p.1046，§3.2）。没有人工盲评、领域外部署流量、校准、鲁棒性或安全回归测试。

7. 完整主结果矩阵：五类基准、六行方法

下表完整转录核心论文表 2 的八个指标。括号内是本报告按 (ATLANTIS−SFT) 复算的绝对差；对准确率/胜率列可读作百分点，MT‑Bench single 与 Arena 则是原量纲分数差。粗体标每个模型内部更优值。

**来源：**核心 PDF p.5 / 论文集 p.1046，表 2；差值和以下相对百分比为本报告复算。Llama2 的最大相对提升是 Arena‑Hard +38.46%；Qwen2 的 OLL2 为 +5.44%，但 Arena 为 −4.04%；Gemma2 的 MT pairwise 为 +35.40%。24 个配对里 23 个上升、1 个下降。这一覆盖率支持“整体方向稳定”，却不支持统计学意义上的“显著”。

更值得注意的是增益异质性：MT single 的三组绝对增益只有 +0.30、+0.09、+0.30，而 pairwise 是 +2.50、+0.62、+7.19。作者解释 pairwise 比单点评分更容易、更客观（p.6 / p.1047），但另一种可能是评测器与训练风格更匹配。没有人类成对偏好复核，无法区分“真正更有帮助”与“更讨自动 judge 喜欢”。

8. 逐层消融：数据选择、规模、跨架构与 proxy 对照

8.1 与 IFD / Superfiltering 组合

核心表 3（PDF p.6 / p.1047）改变选择率 5%、10%、15%，并比较普通 SFT 与 ATLANTIS。Qwen2 在 IFD 10% 时，ATLANTIS 相对对应 SFT：TruthfulQA MC1 32.68→35.86（+3.18）、MC2 51.35→54.89（+3.54）、MT single 7.19→7.86（+0.67）、pairwise 24.53→32.81（+8.28）。这是整篇最强的组合证据。

但并非逐格稳定。Gemma2 + IFD 5% 时，ATLANTIS 相对 SFT 的 MC1 31.33→28.76（−2.57）、MC2 49.79→44.24（−5.55）、MT single 3.93→2.73（−1.20），只有 pairwise 6.60→6.88（+0.28）。Superfiltering 5% 上也有 Gemma2 MC1 33.41→32.93（−0.48）、pairwise 25.00→20.63（−4.37）。所以“能与选择器组合”成立，“组合后普遍提升”不成立。

作者称 10% 一般最好，但表 3 的逐列最优分散：Qwen2 + IFD 的 MT pairwise 在 10% 为 32.81，而 Qwen2 + Superfiltering 的高值可出现在 15% 或普通 SFT 的 10%；Gemma2 不选择数据的 ATLANTIS 在 TruthfulQA/MT‑Bench 多列反而高于筛选版本。这里更像数据量—噪声的任务相关相变，不是统一的 10% 定律。

8.2 模型规模

表 5（PDF p.7 / p.1048）显示：Qwen2‑72B 的 MT pairwise 31.88→36.88（+5.00，+15.68%），TruthfulQA MC1 41.62→42.59（+0.97）；Gemma2‑27B 的 MT pairwise 26.56→32.50（+5.94，+22.36%），但 TruthfulQA MC2 61.24→59.30（−1.94），MC1 完全不变 43.82→43.82。规模扩大没有消除负迁移，只改变它出现在哪个 benchmark。

8.3 跨架构权重迁移

表 4（PDF p.7 / p.1048）把 Qwen2 与 Gemma2 的小/参考模型互换。Qwen2 使用 Gemma2 权重时 TruthfulQA MC1 36.23，高于同族权重 35.62 和 SFT 35.37；但 MT single 6.89、pairwise 21.56，均低于同族 ATLANTIS 的 7.53 / 26.25。Gemma2 使用 Qwen2 权重的 MT single 7.31 高于同族的 6.98，pairwise 25.00 又低于 27.50。Figure 4 对 2,000 个样本可视化，并报告以权重 1.0 划分正负时两架构不一致率 46.78%（PDF p.8 / p.1049）。这不是“结构无关”，而是近半样本方向可翻转、某些指标仍可碰巧获益。

8.4 Proxy‑tuning 对照

附录表 7（PDF p.11 / p.1052）只测 Qwen2‑7B。TruthfulQA MC1/MC2 与 MT single/pairwise：SFT 为 35.37/51.45/7.44/25.63；proxy‑tuning 为 33.41/50.36/3.76/7.91；ATLANTIS 为 35.62/52.65/7.53/26.25。该结果说明同一位移信号在训练期加权比直接解码组合有效，但没有等延迟、等显存、等总 FLOPs 对比；proxy-tuning无需大模型训练，目标成本结构不同。

9. 超参敏感性、权重相变与统计显著性

论文报告的敏感性。 数据选择率只有 5%/10%/15% 三点，可见某些 Qwen 指标在 10% 达峰，Gemma2 则常在“不筛选”更好。模型规模覆盖 7→72B 与 9→27B，说明增益不会随规模单调扩大。跨架构则给出 46.78% 的权重方向不一致率。这些可以称为离散敏感性分析。

论文未报告的关键敏感性。 没有权重温度 w^τ、clip 上界、自归一化、序列长度归一化、参考模型训练强度、不同小模型尺寸、不同训练语料来源的网格；也没有有效样本量 ESS=(Σw)^2/Σw²、权重分位数或梯度范数。因此无法知道性能来自平滑重加权，还是少数极大权重样本控制更新。重要性采样最典型的方差问题恰好未被测量。

统计显著性。 论文标题、摘要与正文使用“consistent and significant improvements”，但附录表 6 明确所有实验只有随机种子 0；主表无标准差、置信区间、bootstrap 或配对检验。因而本报告只能说“观察到 23/24 配对上升”，不能说“统计显著”。对 TruthfulQA、MT/Arena judge 这类有限样本评测，+0.09 或 +0.10 尤其可能落在运行噪声内。

10. 真正贡献、可复用设计与迁移潜力

真正贡献不是“首次用重要性采样”这句标签，而是把三类已有思想接成低摩擦 post-training 插件：proxy-tuning 提供小模型位移可迁移；弱到强数据筛选提供小模型可替大模型评估样本；SFT 加权提供不改变模型结构与训练循环的落点。只要能离线缓存每条样本的三路概率，训练器只需读取一个标量权重。

可复用设计有三点。第一，把“样本价值”定义为模型状态变化而不是外部绝对质量分，能捕捉某条数据对特定模型族的作用。第二，权重与 hard selection 可组合：先用廉价小模型筛掉明显冗余，再用连续权重细调剩余样本。第三，跨架构表明权重有部分迁移性，可建设共享 score store；但必须把 46.78% 方向分歧当成版本兼容指标。

迁移到代码、医学或多语训练时，最合理的做法不是直接复用通用 chat 参考模型，而是训练域内小参考模型，并和部署查询建立显式密度比；同时记录权重 ESS 与长度相关性。对持续学习，可每个数据批次计算旧/新小模型的位移，形成时间条件权重；对偏好优化，可将 ratio 当作样本 prior，再与 DPO margin 分离消融。对私有大模型则难直接用，因为 ATLANTIS 训练和概率计算都需要大基座权重或至少 token-level logprobs。

11. 相关工作技术来源链

11.1 Weak‑to‑Strong Generalization：提出问题，但监督形式不同

解决什么： Burns et al. 研究弱模型标签能否监督更强模型，并在 GPT‑4 系列的 NLP、chess 与 reward modeling 上观察到强学生超过弱教师；论文摘要还报告辅助 confidence loss 可把 GPT‑4 + GPT‑2 级监督推近 GPT‑3.5 级表现（W2S PDF p.1）。遗留缺口： 核心是弱标签监督，不能直接告诉我们每条开放式指令回答该加多少权。ATLANTIS 如何回应： 把“弱教师”从标签生成器改成概率位移测量器。关键设计如何传递： 弱模型不是最终能力上限，而是可迁移训练信号的探针；但 W2S 并未证明 ATLANTIS 的密度比等式。

11.2 Proxy‑tuning：概率位移的直接技术母体

解决什么： Proxy-tuning 在解码时把“小 tuned − 小 base”的 logits 差加到大 base 上，无需更新大模型；其摘要报告用 7B proxy 引导 Llama2‑70B，可闭合与真正 chat 模型差距的 88%（Proxy PDF p.1）。遗留缺口： 每个 token 要同时运行多个模型，推理成本高，而且核心附录表 7 显示它在 Qwen2‑7B 的 MT‑Bench 上远低于 SFT。ATLANTIS 如何回应： 把同一位移信号移到训练前，为样本定权，部署时无需多模型解码。关键设计如何传递： “模型尺度间位移近似可加/可比例迁移”几乎原样进入 ATLANTIS 式 7；这也是其最需实证的假设。

11.3 IFD：从回答条件概率定义“值得学”

解决什么： IFD 比较带 instruction 与不带 instruction 时回答困惑度，选择能教会模型遵循指令的样本；原文摘要称只用原数据 10% 仍改善 Alpaca/WizardLM 训练结果（IFD PDF p.1）。遗留缺口： 分数由目标模型自身计算，成本高，且 hard top-k 会丢弃覆盖。ATLANTIS 如何回应： 使用小模型与参考模型概率构造连续权重，并保留全量数据。关键设计如何传递： 都不把质量当作静态语义标签，而从条件概率变化定义样本价值；ATLANTIS 表 3直接把 IFD 当可组合前置选择器。

11.4 Superfiltering：证明“小模型评分可迁移”

解决什么： Superfiltering 用更小的 GPT‑2 级模型计算 IFD，论文 Figure 1/摘要报告筛选速度约 20×，且 5% 数据可超过 100% 数据训练（Superfiltering PDF p.1）。遗留缺口： 仍是 hard selection，选取比例必须调；模型族变化可能改排序。ATLANTIS 如何回应： 从排序转成 influence weight，并测试跨架构迁移。关键设计如何传递： 弱模型可充当数据价值代理；ATLANTIS 的跨架构 46.78% 方向分歧又提醒这种迁移并不稳固。

11.5 LESS：优化轨迹导向的数据影响

解决什么： LESS 为 Adam 与变长序列构造低秩梯度 datastore，用少量目标任务示例选择训练数据；论文摘要称选择 5% 数据常可超过全量（LESS PDF p.1，ICML 2024）。遗留缺口： 要保存/检索梯度特征，并需要目标任务示例。ATLANTIS 如何回应： 只需前向概率、无需目标梯度或下游 few-shot。关键设计如何传递： 样本价值应和“优化会把模型推向哪里”相关；LESS 用梯度内积显式衡量，ATLANTIS 用 base→tuned 概率变化近似。

非线性技术演进树

                           ┌─ Weak-to-Strong supervision
                           │   弱标签能否释放强学生能力？
                           │                 │
SFT 全量拟合 ──→ 数据价值建模 ─┼─ IFD ─→ Superfiltering
  p_d ≠ 部署分布             │  自身难度    小模型可迁移评分
                           │        │          │
                           │        └────┬─────┘
                           │             ▼
                           ├─ LESS：梯度/优化轨迹影响 ──┐
                           │                            │
                           └─ Proxy-tuning：logit 位移 ─┼─→ ATLANTIS
                                                        │   概率位移 × 连续 SFT 权重
重要性采样：换测度恒等式 ───────────────────────────────┘
                                                        │
                         未解决：p* 定义、p_r≠数据来源、重尾方差、统计检验

演进动力有两次转折。第一次从“更多指令”转向“哪些指令真正改变模型”；第二次从强模型/梯度评分的高成本，转向弱模型的可迁移代理。ATLANTIS 的新意是把第二次转折接到重要性采样语言上，但理论身份尚未由目标分布与支撑条件闭环。

跨论文对标

12. 论文自述限制

1. 同系列小模型依赖。 作者指出，为充分发挥 ATLANTIS，最好有与大模型同系列的较小模型；跨结构的 influence-weight 分布差异会影响表现，限制适用域（核心 PDF p.9 / p.1050，Limitations）。表 4与 46.78% 分歧率为此提供了量化旁证。
2. 额外计算。 引入参考模型会增加相对 vanilla SFT 的计算成本；作者认为参考模型较小，因此通常可接受（同页）。但论文未报告成本数字，所以该判断无法审计。

论文没有第三条独立 limitation；本报告不补造。以下为独立批判。

13. 独立批判：证据 → 推论

1. [理论 / 目标不可识别] 因为 p* 被定义为覆盖现实全部知识与表达的“最优分布”，却没有可观测样本、目标人群或效用函数（pp.1–3），所以任何有限 benchmark 上升都不能验证模型真的更接近 p*；该符号更像叙事性理想点。
2. [理论 / 换测度断裂] 因为严格重要性采样要求样本来自提议分布 p_r，而实验样本来自 OpenHermes‑2.5、p_r 是官方 chat/instruct 模型（p.5、表 1），所以 Eq.6→实际 minibatch 的等价性不成立；方法应被称为代理概率加权 SFT，除非补上数据密度比。
3. [数值 / 重尾风险] 因为权重包含序列概率比且论文未报告 log-domain、长度归一化、clip 或 ESS，所以长序列上的微小 token 差可指数累积；由此不能判断改进来自稳定分布校正还是少数极端样本。
4. [统计 / 过度声称] 因为所有实验只用 seed 0（附录表 6），无标准差或检验，所以摘要的“significant”没有统计证据；尤其 +0.09（Qwen MT single）和 +0.10（Qwen Alpaca hard）不能和噪声区分。
5. [经验 / 非一致增益] 因为主表 Qwen Arena 9.9→9.5，Gemma2‑27B TQA MC2 61.24→59.30，且 Gemma2+IFD 5% 多项明显下降，所以“steady across models”只能作为总体趋势，不能作为逐任务安全保证。
6. [归因 / 训练数据泄漏] 因为官方 instruct/chat 参考模型训练数据未完全公开，且 OpenHermes 是广泛合成混合语料，所以高权重可能标记“参考模型见过或偏好的风格”，而不是接近现实最优；没有去重/污染审计就无法区分。
7. [成本 / 不完整核算] 因为 ≤13B 训练已用 16×A800，72B 用 64×A800，还需三模型前向预计算，却无 GPU-hour、token/s 或存储量，所以不能从“参考模型较小”推出端到端成本可接受。
8. [评测 / judge 偏好] 因为最大增益集中在 MT pairwise（最高 +7.19），而 MT single 仅 +0.09–0.30，且都依赖自动 judge，所以可能主要优化了比较器偏好的回答风格；缺少人工盲评使“人类偏好改善”证据不足。

14. 开放挑战：可操作的 head-to-head 实验空白

理论

• 真实密度比 vs. ATLANTIS 代理。 在可完全枚举的合成语言上构造已知 p*、p_d、p_r，等 FLOPs 比较：真密度比、ATLANTIS、随机权重、IFD 与 uniform SFT；报告 KL 到 p*、权重 ESS 和梯度余弦。这样可直接检验比例迁移是否一致。
• 重尾稳定化。 固定数据和 checkpoint，比较原始比值、log-ratio z-score、self-normalized IS、clip 95/99/99.9 分位与 Pareto-smoothed weights；五种种子报告均值、置信区间、ESS 和最坏任务，寻找性能—方差相变。
• 序列概率定义。 head-to-head 比较 token 乘积、平均 log-prob、长度分桶归一化、只看 response 与 instruction+response；同时画权重对长度的 Spearman 相关，判断增益是否由长度偏置驱动。

工程与应用

• 等 GPU-hour 成本曲线。 在同一 8×H100 预算下比较 vanilla SFT 多训练步、ATLANTIS 三路打分+训练、LESS datastore、Superfiltering 10% 与 proxy-tuning；横轴端到端 GPU-hour/磁盘，纵轴五基准宏平均与 p95 延迟。
• 跨域参考模型。 对代码、医学、多语三域，分别使用通用 chat 小参考与域内 tuned 小参考；统一大基座和训练 token，测域内收益、域外遗忘、安全回归。若域内参考只提升本域而伤害通用能力，就否定“统一 p*”叙事。
• 污染控制。 构建训练截止日之后的动态 QA 与私有模板集，严格 MinHash/embedding 去重；比较公开 instruct 参考与从无重叠数据训练的参考，检验权重是否只是记忆探测器。

新兴方向

• 与 DPO/GRPO 联合。 在同一偏好对上比较 DPO、ATLANTIS‑weighted SFT→DPO、ATLANTIS-weighted DPO 与基于 margin 的权重；报告 reward、KL、长度、hack rate 与训练稳定性，分离“样本 prior”和“偏好目标”。
• 在线持续加权。 每轮数据到达后冻结旧/新小参考模型，比较静态权重与时间条件权重；在知识更新 benchmark 上测新知识吸收、旧知识遗忘和权重漂移，验证该方法能否成为轻量 continual post-training 模块。
• 跨架构兼容门。 训练前只抽 2,000 条计算两套权重，若方向不一致率超过阈值则回退同族模型；与无门控 ATLANTIS head-to-head，报告最坏任务、额外成本和校准曲线。

15. 近期工作雷达

• Model Extrapolation Expedites Alignment（ACL 2025 Main）：同样追求降低对齐训练成本，但从参数外推切入；适合与 ATLANTIS 做等总 FLOPs 的 post-training 对照。
• Intuitive Fine‑Tuning（ACL 2025 Main）：把 SFT 与 preference optimization 拆成 preference estimation / transition optimization，再用时间残差统一；比“真实最优分布”更贴近可执行训练目标。
• Packing Analysis（ACL 2025 Findings）：关注 SFT packing 在模型/数据规模变化下的收益，是评估 ATLANTIS 端到端训练效率时不能忽略的基础设施变量。
• Well Begun is Half Done: Low-resource Preference Alignment by Weak-to-Strong Decoding：把弱到强迁移用于低资源偏好解码；可与 ATLANTIS 区分“训练期权重”与“推理期引导”的成本边界。
• DenoiseRL（arXiv:2605.28421）：把 noisy reasoning supervision 的恢复放进强化学习；提示弱监督信号不应只加权，还可显式建模噪声来源。
• LESS（ICML 2024）：优化器感知的目标数据选择仍是最强可解释替代之一；ATLANTIS 若不报告权重—梯度一致性，就无法证明概率比优于直接优化影响。
• Superfiltering（arXiv v2）：提供弱模型打分可迁移的直接前史，也提醒选择率和模型族是独立超参。

16. 最终判断与复现优先级

ATLANTIS 值得看，因为它把一个昂贵的数据价值问题压缩成三个现成模型的前向概率，并在五类 benchmark、三种模型族、扩规模和跨架构设置中给出广泛实验。最硬的经验结论是：主表 23/24 配对上升，Gemma2‑9B 的 MT‑Bench pairwise 20.31→27.50（+7.19，+35.40%）；最硬的反证是：Qwen Arena 退步、Gemma2 的某些筛选组合明显负迁移、单 seed 无显著性。

如果只复现一件事，优先公开权重计算代码并画出：权重分位数、序列长度相关、ESS、每批梯度范数和五种种子结果。若再做一件事，应把 OpenHermes 的经验分布 p_d 与参考模型 p_r 分开，加入可估计的数据来源密度比。只有这两步通过后，“importance sampling toward the real-world optimum”才从漂亮解释升级为可检验方法；在此之前，最可信的定位是：利用小模型指令化位移构造的、有效但理论未闭环的连续样本加权启发式。

证据与生成说明： 所有性能数字来自核心 ACL 定稿表 2–7或五篇相关论文的已读 PDF，并在段落内标明页/表；百分比为本报告基于原值复算，未从图形像素估值。核心论文没有公开代码、误差条、权重稳定化细节或完整成本，因此相应位置明确标注“未报告/无法推出”。ml-report-index.md 已追加本次条目。HTML 由 Warm Editorial 模板生成并通过 validator（0 warning）；本机可加载 Playwright，但 /usr/bin/chromium、/usr/bin/chromium-browser、/opt/pw-browsers 与 Playwright 缓存中均未发现可执行 Chromium，因此未完成真实的浅色、深色和移动端截图检查，不以静态响应式检查冒充浏览器验证。