0. 链接验证表
下表链接均在 2026-08-23 实际访问;版本日期来自 arXiv submission history。OpenReview 若触发浏览器验证,仍仅列出由会议主页反向链接或论文明确给出的 URL;找不到独立资源时标注“未找到”,不据此断言资源不存在。
| 论文 | 会议主页 / 出版页 | arXiv(具体版本) | Code 仓库 | 数据集 / 权重 | 项目主页 / 视频 |
|---|---|---|---|---|---|
| KLDM(核心) | ICML 2025 / PMLR;OpenReview | 2507.03602v1,2025-07-04 | frcnt/kldm | 仓库 mp_20 数据目录;预训练权重未找到 | 未找到 |
| CDVAE | ICLR 2022 / OpenReview | 2110.06197v3,2022-03-14 | txie-93/cdvae | 仓库内 Perov-5、Carbon-24、MP-20 | 未找到 |
| DiffCSP | NeurIPS 2023 PDF;OpenReview | 2309.04475v2,2024-03-07 | jiaor17/DiffCSP | 数据处理脚本见代码;独立权重未找到 | 未找到 |
| EquiCSP | ICML 2024 / PMLR | 2512.07289v1,2025-12-08 | EmperorJia/EquiCSP | 数据配置见代码;独立权重未找到 | 未找到 |
| FlowMM | ICML 2024 / PMLR | 2406.04713v1,2024-06-07 | facebookresearch/flowmm | 数据与评测入口见代码;独立权重未找到 | 未找到 |
| TDM | ICLR 2025 / OpenReview | 2405.16381v2,2025-02-12 | yuchen-zhu-zyc/TDM | 仓库含合成数据生成与部分结果;通用权重未找到 | 未找到 |
1. 检索、去重与随机选择
1.1 去重
已检查 ml-report-index.md。最近 14 天的 AI4Science 核心工作是 2026-08-16 的 Elucidating the Design Space of Multimodal Protein Language Models,主题是蛋白质序列—结构离散 token 的监督几何;本期排除蛋白多模态 token 化与 DPLM2.1。KLDM 研究的是晶体分数坐标的环面几何、动力学扩散和材料稳定性验证,问题对象与技术核心均不重复。
1.2 候选池(20 篇)与随机抽取
候选来自 ICML 2025 PMLR accepted papers,并用 arXiv、OpenReview、代码仓库及论文全文补充核验;全部属于运行日的 AI4Science/跨界范围,发表未超过 24 个月。
- Raptor:3D 医学体积的免训练嵌入
- BounDr.E:药物相似性的一类边界学习
- 专业级 Graph-of-Thought 医疗推理
- 生成式蛋白适应度优化的变分视角
- DiffMS:质谱条件分子扩散生成
- SO(3)-averaged Flow Matching 与 Reflow 的构象生成
- LDMol:文本到分子的潜空间扩散
- 全原子蛋白复合物设计
- 分子—语言对齐的层次图 token 化
- OmniArch:科学计算基础模型
- 用神经算子导数加速 PDE 约束优化
- KLDM:晶体材料的动理学 Langevin 扩散
- CLIMB:大规模多模态临床基础数据
- 面向医疗难样本的合成数据
- 从折叠能预测蛋白结合突变效应
- 旋转对齐驱动的可扩展非等变 3D 分子生成
- 用字典学习从显微基础模型提取生物概念
- MF-LAL:多保真潜空间主动学习的药物生成
- WyckoffDiff:晶体对称性的生成扩散
- MedRAX:胸片医疗推理 Agent
执行 shuf -i 1-20 -n 1 得到 12。KLDM 有 30 页会议全文、官方代码、四个公开数据集结果、三次或六次运行统计及多层消融,资料充足,重抽次数为 0。
2. 核心论文深度解析
2.1 Motivation:周期坐标不是普通的三维向量
晶体单胞可记为 (x=(f,l,a)):(f\in[0,1)^{3\times K}) 是 (K) 个原子的分数坐标,(l) 是晶格,(a) 是元素类型。分数坐标的 0 与 1 表示同一点,因此它不是有边界的欧氏立方体,而是高维环面 (\mathbb T^{3K})。若直接在 (\mathbb R^{3K}) 加高斯噪声再裁剪,0.99 与 0.01 会被误判为相距很远;若在环面做 wrapped-normal/Riemannian diffusion,则前向核、score 与数值积分又变得复杂。论文第 1–3 页把这一点定位为晶体生成中最难的连续模态。
现有方法已经意识到对称性。CDVAE 显式编码周期边界;DiffCSP 在分数坐标上采用周期 (E(3))-等变网络与 wrapped-normal diffusion;EquiCSP 进一步保证晶格置换和周期平移等变;FlowMM 用黎曼 flow matching 绕开扩散的分数预测。但这些路线仍直接在位置流形上定义生成过程。KLDM 的新问题是:能否保留环面上的正确运动,同时把学习目标放到固定的欧氏空间?
其价值不只是数学洁癖。MP-20 有 45,231 个晶体、每个至多 20 个原子;MPTS-52 有 40,476 个晶体、最多 52 个原子(论文附录表 6,第 25 页)。环面维数随原子数升至 156,边界与整体平移冗余都会放大。KLDM 在最难的 MPTS-52 @1 上把 FlowMM 的 match rate 17.54 提至 23.93,绝对 +6.39 pp、相对 +36.43%(表 1,第 7 页),证明“换一个扩散状态空间”可以转化为可观的结构预测收益。
2.2 故事线:先抬升,再约束,最后把速度初值压成零
论文的论证有四个关键转折。
第一,把每个环面坐标看作 (SO(2)) 上的旋转。位置仍留在正确流形,但新增速度 (v) 位于其李代数;对环面而言,李代数就是固定欧氏空间。第二,前向过程只给速度注入噪声,位置通过速度自然移动。训练因此不再拟合一个带周期求和的坐标 score,而是拟合高斯速度的 score。第三,晶体的整体周期平移不改变结构,所以网络输出速度后要减去质量中心/黎曼均值,强制总平移速度为零。第四,也是最重要的经验转折:若初始速度直接设为零点质量,条件速度分布可以解析化,score 参数化由“网络同时学习均值与尺度”简化为“网络只预测干净坐标相关项”。图 1 与附录表 3 表明,这一简化不是装饰,而是主要增益来源。
隐含权衡也很清楚。KLDM 把流形 score 的困难换成了扩展状态空间:采样时要同时积分位置与速度,并多引入摩擦系数 (\gamma)、终止时间 (T) 和预测—校正步骤。PC sampler 往往提升 @1 精度,却不总提升 @20;例如 MPTS-52 的 KLDM-(x_0) 从 EM 的 37.77 降到 PC 的 37.10(表 1),说明更多校正并不等于更高的候选覆盖率。
2.3 方法论与机制解剖
2.3.1 形式化定义
将分数坐标映射为 (\hat f\in SO(2)^{3K}),并为每个位置引入李代数速度 (\hat v)。KLDM 的前向 kinetic Langevin SDE 为:
[ d\hat f_t=\hat f_t\hat v_t,dt,\qquad d\hat v_t=-\gamma\hat v_t,dt+\sqrt{2\gamma},dw_t^{\mathfrak g}. \tag{12,正文 p.4} ]
第一式是无噪声的输运,第二式是 Ornstein–Uhlenbeck 速度过程。反向过程保持位置动力学,但速度漂移需加入条件 score:
[ d\hat f_t=-\hat f_t\hat v_t,dt, \quad d\hat v_t={\gamma\hat v_t+2\gamma\nabla_{\hat v_t} \log p_t(\hat v_t\mid\hat f_t)},dt+\sqrt{2\gamma},d\bar w_t^{\mathfrak g}. \tag{13,正文 p.4} ]
训练损失是 velocity denoising score matching,并与晶格、元素模态损失相加:
[ \mathcal L=\lambda_v\mathcal L_v+\lambda_l\mathcal L_l+ \lambda_a\mathcal L_a,\qquad \lambda_v=\lambda_l=1. ]
元素类型使用三种实现:连续 one-hot(C)、analog bits(C-AB)或离散 absorbing diffusion(D);对应 (\lambda_a) 分别为 20、1、0.33(附录 E,第 24–25 页)。零初始速度 (v_0=0) 令高斯条件核的部分均值项消失,得到论文式 (19) 的 simplified parameterization;这比式 (18) 的 direct parameterization 更容易学习。
2.3.2 流程示意
晶体 x0=(分数坐标 f0, 晶格 l0, 元素 a0)
│
├─ f0: T^(3K) ≅ SO(2)^(3K) ── 加入欧氏速度 v0=0
│ │
│ kinetic forward SDE
│ 位置按速度移动;噪声只进速度
│ │
│ 网络预测 velocity score
│ │
│ 减去均值 → 强制 zero-net velocity
│ │
│ EM 或 Predictor–Corrector 反演
│
├─ l0: 普通欧氏扩散 ─────────────────────────┤
└─ a0: C / C-AB / D 元素扩散 ───────────────┤
↓
候选晶体 → 结构匹配 / MatterSim
2.3.3 关键机制与工程细节
| 机制 / 维度 | 设计选择 | 动机 | 关键超参 / 实现 |
|---|---|---|---|
| 周期坐标 | (\mathbb T^{3K}\cong SO(2)^{3K}) | 不把单胞边界误作真实边界 | 每个分数坐标映射到圆群 |
| 动量抬升 | 欧氏辅助速度 (v) | 将 score 学习移到固定平坦空间 | (v_0=0),(\gamma=1),(T=2) |
| 平移约束 | 输出速度减去原子均值 | 整体周期平移应为零模 | zero-net velocity;图 1 显示边际增益 |
| score 参数化 | simplified (x_0)-style | 零速度初值消去多余条件项 | 式 (19),对比 direct 式 (18) |
| 采样 | EM 与 predictor–corrector | PC 在速度空间做额外校正 | 代码示例 PC 取 1,000 steps |
| 元素模态 | C / C-AB / D 三路线 | 区分连续松弛与离散扩散 | (\lambda_a=20/1/0.33) |
| 网络 | DiffCSP 式 EGNN | 公平复用成熟晶体编码器 | 4 层(Perov-5)或 6 层;hidden 512;time 256 |
| 优化与硬件 | AdamW、early stopping | 控制多数据集训练 | 单张 RTX 3090/A5000 24GB;论文未报 GPU-hour |
2.4 实验设计、基准与指标
| 数据集 | 样本数 | 最大原子数 | 批量 | 覆盖难点 |
|---|---|---|---|---|
| PEROV-5 | 18,928 | 5 | 1,024 | 固定小单胞钙钛矿,较易 |
| CARBON-24 | 10,153 | 24 | 256 | 同一碳组成对应多结构,@1 含义弱 |
| MP-20 | 45,231 | 20 | 256 | 多元素真实材料主基准 |
| MPTS-52 | 40,476 | 52 | 256 | 原子数更大、环面维数最高 |
数据来自附录表 6(PDF 第 25 页)。CSP 给定组成预测结构:Match Rate(MR,越高越好)统计结构匹配率,RMSE(越低越好)只在匹配样本上计算;@1 是一次采样,@20 是每组成 20 个候选。DNG 同时生成组成与结构:RMSD 衡量 MatterSim 松弛前后位移,energy above hull 越低越稳定,stable 表示低于稳定阈值的比例,SUN 是 stable、unique、novel 的交集。
2.5 主结果:完整 CSP 数据矩阵
下表逐项转录论文表 1(PDF 第 7 页);“—”表示原表未报告,绝不补造。KLDM 为 3 次采样的均值±标准误,基线为各自论文值。
@1:单候选结构预测
| 方法 | PEROV-5 MR↑ | PEROV-5 RMSE↓ | MP-20 MR↑ | MP-20 RMSE↓ | MPTS-52 MR↑ | MPTS-52 RMSE↓ |
|---|---|---|---|---|---|---|
| CDVAE | 45.31 | 0.1138 | 33.90 | 0.1045 | 5.34 | 0.2106 |
| DiffCSP-PC | 52.02 | 0.0760 | 51.49 | 0.0631 | 12.19 | 0.1786 |
| EquiCSP-PC | 52.02 | 0.0707 | 57.59 | 0.0510 | 14.85 | 0.1169 |
| FlowMM | 53.15 | 0.0992 | 61.39 | 0.0566 | 17.54 | 0.1726 |
| KLDM-ε EM | 53.14±0.6 | 0.0758±0.002 | 61.72±0.2 | 0.0686±0.001 | 17.71±0.3 | 0.2023±0.005 |
| KLDM-ε PC | 52.72±0.8 | 0.0678±0.002 | 65.37±0.1 | 0.0455±0.001 | 21.46±0.2 | 0.1339±0.002 |
| KLDM-x₀ EM | 52.44±0.7 | 0.0698±0.002 | 62.92±0.2 | 0.0833±0.002 | 21.13±0.2 | 0.1800±0.003 |
| KLDM-x₀ PC | 52.14±0.9 | 0.0647±0.002 | 65.83±0.2 | 0.0517±0.001 | 23.93±0.2 | 0.1276±0.002 |
最有说服力的定量证据出现在难数据集,而不是 PEROV-5:KLDM-x₀ PC 相对 FlowMM 在 MPTS-52 MR 上 +6.39 pp / +36.43%;相对 EquiCSP 则 +9.08 pp / +61.14%。但 RMSE 最优仍是 EquiCSP 的 0.1169,KLDM-x₀ PC 为 0.1276,差 9.15%。这说明 KLDM 更容易“命中更多样本”,却未让已命中的坐标误差达到最低。
@20:多候选覆盖
| 方法 | PEROV-5 MR↑ | PEROV-5 RMSE↓ | MP-20 MR↑ | MP-20 RMSE↓ | MPTS-52 MR↑ | MPTS-52 RMSE↓ |
|---|---|---|---|---|---|---|
| CDVAE | 88.51 | 0.0464 | 66.95 | 0.1026 | 20.79 | 0.2085 |
| DiffCSP-PC | 98.60 | 0.0128 | 77.93 | 0.0492 | 34.02 | 0.1749 |
| FlowMM | 98.60 | 0.0328 | 75.81 | 0.0479 | 34.05 | 0.1813 |
| KLDM-ε EM | 99.97 | 0.0152 | 83.68 | 0.0532 | 39.04 | 0.1865 |
| KLDM-ε PC | 99.94 | 0.0226 | 81.08 | 0.0440 | 39.81 | 0.1462 |
| KLDM-x₀ EM | 99.89 | 0.0186 | 82.94 | 0.0575 | 37.77 | 0.1673 |
| KLDM-x₀ PC | 99.92 | 0.0255 | 80.18 | 0.0453 | 37.10 | 0.1394 |
@20 揭示参数化与采样器的交互:单样本最强的 x₀-PC 并非覆盖率最强;MPTS-52 上 ε-PC 为 39.81,x₀-PC 为 37.10,后者低 2.71 pp / 6.81%。因此不能把“简化 score 全面更优”外推到所有预算;它主要改善 @1 和匹配后的 RMSE,而候选集多样性可能下降。
2.6 DNG:稳定性提升与 SUN 回落同时存在
论文表 2(PDF 第 8 页)用 MatterSim 松弛评估每个 KLDM 变体的 10,000 个样本,三次采样。星号基线在重优化、过滤后的 MP-20 上训练,KLDM 却用原始未过滤 MP-20;这不是严格同数据对比。
| 方法 | RMSD Å↓ | Above hull eV/atom↓ | Stable %↑ | SUN %↑ |
|---|---|---|---|---|
| MatterGen-MP* | 0.147 | 0.201 | 47.05 | 25.76 |
| DiffCSP* | 0.413 | 0.189 | 41.25 | 20.13 |
| KLDM-x₀ C | 0.371±0.01 | 0.269±0.01 | 38.62±0.1 | 16.67±0.1 |
| KLDM-x₀ C-AB | 0.296±0.01 | 0.187±0.01 | 49.84±0.1 | 17.91±0.1 |
| KLDM-x₀ D | 0.283±0.01 | 0.155±0.01 | 59.21±0.1 | 18.52±0.1 |
KLDM-D 相对 MatterGen 把 stable 从 47.05 提至 59.21,+12.16 pp / +25.84%,above-hull 从 0.201 降至 0.155,下降 22.89%;但 RMSD 从 0.147 增至 0.283,恶化 92.52%,SUN 从 25.76 降至 18.52,-7.24 pp / -28.11%。最关键的科学结论因此不是“KLDM 生成最好材料”,而是:离散元素扩散显著提高代理势能判定的稳定率,却没有同步解决新颖性、唯一性和几何松弛距离。
2.7 多层消融、敏感性与相变
附录表 3(PDF 第 21 页)给出 direct 与 simplified score 的严格对比:
| 参数化 / 采样 | MP-20 MR↑ | MP-20 RMSE↓ | MPTS-52 MR↑ | MPTS-52 RMSE↓ |
|---|---|---|---|---|
| Direct EM | 56.25±0.4 | 0.1071±0.001 | 11.55±0.2 | 0.2535±0.004 |
| Direct PC | 63.29±0.2 | 0.0591±0.002 | 15.85±0.2 | 0.1666±0.004 |
| Simplified EM | 61.72±0.2 | 0.0686±0.001 | 17.71±0.3 | 0.2023±0.005 |
| Simplified PC | 65.37±0.1 | 0.0455±0.001 | 21.46±0.2 | 0.1339±0.002 |
在 PC 下,simplified 相对 direct:MP-20 MR +2.08 pp / +3.29%、RMSE 下降 23.01%;MPTS-52 MR +5.61 pp / +35.39%、RMSE 下降 19.63%。难度越高,简化参数化的 MR 收益越大,这支持“减少 score 学习负担比堆更复杂网络更关键”。
图 1(正文第 9 页)使用 6 个训练种子,比较初始速度方差 (0,0.1,0.5,1)、是否 zero-net velocity 与两种 score。图只给曲线及均值±标准误,未给每个点的精确数字,因此本报告不从图像猜读数值。能够审慎推出的是:零速度明显优于非零方差,simplified 明显优于 direct,zero-net 仅边际改善。相变信号在 (\mathrm{Var}(v_0)=0) 与任何正方差之间,而论文没有更密的 ([0,0.1]) 扫描,无法判断是连续陡降还是理论上的真正突变。
论文还未报告 (\gamma)、(T)、PC corrector 步数、网络宽度和采样步数的系统敏感性曲线;也未给 accuracy–NFE 或 wall-clock Pareto 前沿。因此可以确认参数化敏感,却不能确认 KLDM 对动力学超参鲁棒。
2.8 统计显著性
主表中 KLDM 的 CSP 与 DNG 多数结果是 3 个采样种子的均值±标准误,图 1 是 6 个训练种子;这是比只报单点更好的证据。以 MPTS-52 @1 为例,x₀-PC 23.93±0.2 与 ε-PC 21.46±0.2 相差 2.47 pp,约为单侧标准误的 12 倍;但论文没有给原始样本、置信区间,也未执行配对检验。基线只报单点,无法做公平显著性比较。DNG 的 10,000 样本很多,但三次运行并不等于材料候选独立同分布;标准误很小不能替代化学有效性验证。
2.9 真正贡献、可复用设计与迁移潜力
KLDM 真正的贡献不是“又一个晶体扩散模型”,而是给出一种通用设计原则:当数据落在李群/环面而 score 难学时,可保留群上的位置动力学,把随机性与学习任务搬到固定李代数速度空间。 这比特定 EGNN 更可迁移。蛋白/RNA 扭转角、周期分子动力学、机器人关节角和相位数据都具有环面结构;TDM 已在更一般李群上证明该思想,KLDM 则补上晶体的周期平移、晶格和离散元素多模态耦合。
可单独复用的模块包括:零初始速度导出的 simplified score、对网络输出做 zero-net 投影、连续结构与离散类型分开选扩散过程、同时报告 @1 与 @20 防止把精度误当覆盖、以及把 stable 与 SUN 并列以暴露“稳定但重复/不新颖”的失败。尤其是最后一项评测习惯,比单报稳定率更有科研价值。
稳定率上升,不等于可发现样本(SUN)同步上升
MP-20 de-novo generation;同一 0–60% 单 Y 轴。完整 RMSD 与 above-hull 数值见正文表 2。
3. 局限性与补充批判
3.1 论文自述限制
- 缺少 DFT 最终验证。 结论段(正文第 9 页)明确称用 DFT 验证生成材料是自然下一步;当前表 2 依赖 MatterSim 机器学习势能,因此“稳定”是代理模型下的稳定。
- 动力学与架构仍可改进。 结论段提出 alternative velocity noising、对周期性更匹配的 score architecture、模态专属噪声日程;说明 (\gamma=1,T=2) 与现有 EGNN 并非完成态。
- 对称性覆盖不完整。 附录 I.4(PDF 第 29 页)承认没有处理 lattice permutation invariance;正文还把 space group/Wyckoff 信息、目标属性条件生成和 MOF 扩展列为未来工作。
3.2 独立批判(证据 → 推论)
- [实验设计问题] 训练数据不公平。 因为 MatterGen/DiffCSP 基线用重优化、过滤 MP-20,而 KLDM 用原始未过滤 MP-20(表 2 注释),所以 stable 59.21 对 47.05 的 +12.16 pp 同时混入数据版本效应;不能把全量差值归因于 kinetic lift。
- [指标有效性问题] 稳定率与可发现性背离。 因为 KLDM-D stable 最高 59.21%,但 SUN 仅 18.52%,低 MatterGen 7.24 pp,所以多数额外“稳定”样本没有同时满足唯一与新颖;稳定率不是材料发现产出的充分替代指标。
- [失手的子任务] 几何松弛距离显著更差。 因为 KLDM-D RMSD 0.283 Å,几乎是 MatterGen 0.147 Å 的 1.93 倍,所以其初始结构离势能极小值更远;这会增加后续松弛成本,并削弱“高质量直接生成”的主张。
- [论证缺口] 没有等算力效率对比。 因为代码示例 PC 使用 1,000 步,而论文只说单卡 24GB、未报 GPU-hour、NFE、吞吐或 MatterSim 松弛成本,所以无法判断 +6.39 pp MPTS-52 MR 是否值得额外速度状态与 corrector 成本。
- [指标有效性问题] RMSE 是条件指标。 因为 RMSE 只在结构匹配成功的样本上计算,而 EquiCSP MPTS-52 RMSE 0.1169、MR 14.85,KLDM-x₀ PC RMSE 0.1276、MR 23.93,所以两者的 RMSE 评估集合不同;不能据 9.15% 差距直接断言 EquiCSP 对同一批样本更准。
- [超参可复现性风险] 相变未被定位。 因为图 1 只扫初始速度方差 0、0.1、0.5、1,没有 (10^{-4}) 到 (10^{-1}) 的密集区间,所以“零速度是特殊点”有证据,但“为什么”尚未与混合时间或 score 方差定量关联。
- [缺乏关键竞品对比] 对称生成缺口未 head-to-head。 因为同会 WyckoffDiff 显式生成 Wyckoff/空间群信息,而 KLDM 未纳入空间群条件,表 1/2 也没有相同数据、预算下的 WyckoffDiff 对比,所以无法判断动量抬升与显式晶体对称先验哪一个更重要。
- [可复现性风险] 代码公开但权重与环境证据有限。 因为仓库可访问且含训练/评估入口与 MP-20 目录,却未找到正式 release 或预训练权重;论文仅报 RTX 3090/A5000,未报驱动、完整运行时与随机种子清单,所以复现实验仍需从头训练。
4. 相关工作回溯:问题如何一步步传递
4.1 CDVAE — 2022,ICLR
解决了什么。 CDVAE 把周期晶体生成从一般图 VAE 推向带物理归纳偏置的扩散解码器:原子坐标沿类似低能方向去噪,元素类型随邻域键合关系更新,并显式处理周期边界与置换、平移、旋转不变性。它还整理了 Perov-5、Carbon-24、MP-20 数据和评测,成为后续表 1 的共同基线。
遗留缺口。 其 VAE 潜变量负责晶格与组成,坐标去噪并未把分数坐标的环面几何作为首要状态空间;重构/生成链条也引入编码瓶颈。KLDM 表 1 中 CDVAE 在 MPTS-52 @1 只有 5.34 MR,显示原子数增大后覆盖不足。
KLDM 的回应与设计传递。 KLDM 继承多模态拆分与数据/指标体系,但取消 VAE 作为核心坐标生成机制,直接在 ((f,v)) 扩展空间建模;从“周期边界是网络不变性”推进到“周期性决定随机过程本身”。
4.2 DiffCSP — 2023,NeurIPS
解决了什么。 DiffCSP 用分数坐标而非笛卡尔坐标联合生成晶格与原子位置,并以 periodic-(E(3))-equivariant denoiser 保证关键晶体对称;这是 KLDM 直接复用网络骨架和 CSP 评测协议的来源。
遗留缺口。 它直接在环面坐标做 wrapped-normal/Riemannian diffusion,需要学习位置 score;整体周期平移的冗余与坐标 score 参数化仍缠在一起。MPTS-52 @1 MR 12.19、@20 34.02(KLDM 表 1 转录)说明大单胞仍难。
KLDM 的回应与设计传递。 KLDM 保留 fractional-coordinate 与 EGNN 表示,却把 score 从位置搬到欧氏速度,再用 zero-net velocity 消除整体平移模。于是 DiffCSP 的“表示选对空间”进化为 KLDM 的“扩散过程也选对空间”。
4.3 EquiCSP — 2024,ICML
解决了什么。 EquiCSP 指出已有扩散在晶格置换和周期平移等变性上不完整,设计始终保持这些对称的 noising algorithm;它证明前向噪声机制必须与网络对称性一致,而不只是末端数据增强。
遗留缺口。 等变 noising 仍直接作用于坐标流形,且“约束正确”不自动带来高覆盖:表 1 中 MPTS-52 @1 MR 14.85,虽 RMSE 0.1169 最低,命中率仍有限。
KLDM 的回应与设计传递。 KLDM 吸收“训练与推理全程保持平移对称”的原则,用均值投影约束速度;但它没有继承 lattice permutation invariance,作者在附录 I.4 明确承认。两者因此是互补关系,不是简单替代。
4.4 FlowMM — 2024,ICML
解决了什么。 FlowMM 把晶体生成表述为黎曼 flow matching,可自由选择 base distribution,论文还用量子化学验证,并声称寻找稳定材料的积分步数约为既有开放方法的 1/3。它把社区注意力从“唯一的扩散噪声日程”转向“更简单的连续输运路径”。
遗留缺口。 Flow matching 仍需在晶体乘积流形上构造向量场;表 1 的 MPTS-52 @1 MR 17.54,说明简单路径并未完全解决大单胞覆盖。其优势是积分效率,而 KLDM 没有在相同 NFE 下比较。
KLDM 的回应与设计传递。 KLDM 没有改用 flow matching,而是用 kinetic lift 简化扩散 score;两者分别代表“简化路径”和“扩展状态”。核心论文超过 FlowMM 的 MPTS-52 MR,却缺失速度对比,因此技术胜负仍未闭合。
4.5 TDM — 2025,ICLR
解决了什么。 TDM 用 trivialized momentum 把李群上随位置变化的切空间速度改写到固定李代数,并配合保流形积分器,已在蛋白/RNA 扭转角、环面以及 (SO(N),U(N)) 上验证。它是 KLDM 最直接的技术来源。
遗留缺口。 TDM 面向一般李群数据,不包含晶体的多原子整体平移冗余、晶格连续模态、元素离散模态,也没有 CSP/DNG 的材料评测链。
KLDM 的回应与设计传递。 KLDM 把 TDM 的辅助动量具体化为每个原子的周期速度,加入 zero-net 投影,并联合晶格与三种元素扩散。最关键的传递不是照搬 SDE,而是发现晶体任务中 (v_0=0) 可导出更简洁、经验上更强的 score。
5. 技术演进脉络
2022 CDVAE [周期边界 + 扩散解码 + 共同数据/指标]
│
├── 2023 DiffCSP [分数坐标 + joint equivariant diffusion]
│ │
│ ├── 2024 EquiCSP [补齐晶格置换/周期平移等变]
│ │
│ └── 2024 FlowMM [从 score diffusion 改为 Riemannian flow]
│
2024→2025 TDM [李群位置 + 固定李代数动量 + 保流形积分]
│
└──────────────────────────────┐
↓
2025 KLDM [晶体环面位置 + 欧氏速度 + zero-net 投影
+ 晶格扩散 + 连续/离散元素扩散 + CSP/DNG]
内在推动力是从“让网络看见周期性”走向“让整个随机过程尊重周期性”,再走向“用辅助变量改变学习问题的几何”。第一个转折是 DiffCSP 的 fractional coordinate:不再让笛卡尔坐标承担单胞选择;第二个是 EquiCSP,指出前向噪声也必须等变;第三个分叉中,FlowMM 简化输运目标,TDM/KLDM 则扩展状态空间。社区关注点也从 validity/coverage 转向 MatterSim/DFT 稳定性与 SUN,但 KLDM 的 stable–SUN 背离说明评测尚未收敛。
| 工作 | 发表年月 | 会议 | 核心贡献 | 本报告可对齐的代表指标 | 与 KLDM 的关系 |
|---|---|---|---|---|---|
| CDVAE | 2022.04 | ICLR | 周期材料的 VAE+扩散解码 | MPTS-52 @1 MR 5.34 | 数据、指标与多模态起点 |
| DiffCSP | 2023.12 | NeurIPS | 分数坐标 joint equivariant diffusion | MPTS-52 @1 MR 12.19 | 网络骨架与直接问题来源 |
| EquiCSP | 2024.07 | ICML | 晶格置换、周期平移等变 noising | MPTS-52 RMSE 0.1169 | 对称性补丁,KLDM 未全继承 |
| FlowMM | 2024.07 | ICML | 晶体黎曼 flow matching | MPTS-52 @1 MR 17.54 | 简化路径的平行路线 |
| TDM | 2025.04 | ICLR | 李群上的 trivialized momentum | 论文任务不同,不硬拼数值 | KLDM 的动力学技术源头 |
| KLDM | 2025.07 | ICML | 环面位置抬升到欧氏速度扩散 | MPTS-52 @1 MR 23.93 | 几何与材料多模态的汇聚点 |
6. 开放挑战与可操作研究机会
6.1 理论层面
- 零速度“相变”定位。 固定网络和训练预算,在 (\mathrm{Var}(v_0)\in{0,10^{-5},10^{-4},10^{-3},10^{-2},10^{-1}}) 做 head-to-head,报告 score 方差、混合时间、MR 与 RMSE;检验零点优势来自解析参数化还是动力学退化。
- 扩展状态与直接流形 score 的样本复杂度。 在合成 (\mathbb T^d) 上令 (d=6,30,60,156),比较 KLDM 与 wrapped-normal score 在相同参数量、相同函数评估次数下的误差上界和实测斜率。
- 对称投影的完整化。 将 zero-net velocity 与 EquiCSP 的 lattice permutation equivariance 组合,做四格消融:都无、仅速度投影、仅晶格置换、两者兼有;这直接补论文附录 I.4 的缺口。
6.2 工程与应用层
- 等预算 KLDM vs FlowMM。 在同一 MP-20/MPTS-52 split、同一 EGNN、相同 NFE、GPU-hour 和峰值显存下画 MR–时间、SUN–时间 Pareto 曲线;这是判定 kinetic lift 是否优于 flow matching 的关键缺失实验。
- MatterSim 到 DFT 的校准。 对每种方法随机抽取至少 500 个 MatterSim stable 样本做 DFT relaxation,报告 precision、能量排序 Spearman 相关与 false-stable rate;否则 59.21% 只是代理模型内的数字。
- 采样器与覆盖率。 在 @1/@5/@10/@20/@50 上对 EM、PC 以及不同 corrector 次数进行对比,同时报告 pairwise structure diversity,验证 x₀-PC 在 @20 的回落是否来自模式收缩。
- 可复现实验包。 发布固定容器、四数据集 hash、三/六种子 checkpoint 与训练日志;以公开权重推理结果和从头训练结果分别验收,降低“代码存在但不可复算表 1”的风险。
6.3 新兴方向
- 显式空间群条件。 在相同 MP 数据和 MatterSim/DFT 流程下比较 KLDM、WyckoffDiff 与“KLDM+Wyckoff conditioning”,按 230 个空间群分层报告 validity、stable、SUN,观察动量机制是否能与符号对称先验叠加。
- 属性条件生成。 加入带隙、体积模量或磁性条件,比较 classifier-free guidance 与 reward guidance;用条件命中率、DFT 误差、SUN 三维 Pareto,而不是只报某个属性均值。
- 更大周期系统与缺陷。 从最多 52 原子扩至 MOF、表面和含空位/掺杂超胞,在相同原子数分桶下测试内存、NFE 与结构有效率,以确认环面维度扩张时收益是否继续增大。
7. 其他值得关注的近期工作
- WyckoffDiff(ICML 2025):显式把 Wyckoff 位置和晶体对称纳入生成,是 KLDM 未覆盖空间群先验的最直接 head-to-head 候选。
- Efficient Molecular Conformer Generation with SO(3)-Averaged Flow Matching and Reflow(ICML 2025):用群平均与 reflow 追求等变性和更短采样路径,可与 KLDM 的“扩状态”路线对照。
- Scalable Non-Equivariant 3D Molecule Generation via Rotational Alignment(ICML 2025):挑战“高性能 3D 生成必须全程等变”的默认假设,值得在参数/吞吐等预算下检验。
- DiffMS(ICML 2025):将质谱条件映射到分子生成,代表实验观测条件约束比无条件分子先验更重要的方向。
- MF-LAL(ICML 2025):用多保真主动学习把昂贵实验/模拟反馈接入药物潜空间搜索,适合借鉴到 DFT-in-the-loop 晶体生成。
- OmniArch(ICML 2025):以统一架构覆盖科学计算任务,值得关注其通用性与专门几何归纳偏置之间的边界。
- Towards scientific discovery with dictionary learning(ICML 2025):从显微基础模型抽取可解释生物概念,连接表示学习、机制解释与自动发现。
8. 结论
KLDM 最重要的启示是:材料生成的几何难题未必只能靠更复杂的等变网络解决,改变扩散状态——用欧氏速度承载噪声——也能显著减轻 score 学习。在 MPTS-52 上,单候选 MR 从 FlowMM 的 17.54 提至 23.93,是全文最强的几何建模证据;离散元素扩散又把 MatterSim stable 推到 59.21%。但后者伴随 SUN 低于 MatterGen 7.24 pp、RMSD 接近其 1.93 倍,加上训练数据版本不一致和缺少 DFT,意味着“更稳定”还不能等价为“发现更多可合成的新材料”。
核验与坦诚性说明
- 所有表格数字均转录自 KLDM 会议论文表 1–6 或由这些数字直接复算;派生百分比保留两位小数。
- OpenReview 页面在自动访问时触发浏览器验证;其 URL 由 PMLR Related Material 或论文/代码明确给出,未把无法读取的评审内容用于论证。
- 未找到 KLDM 预训练权重、独立项目页或视频;未对图 1 曲线做像素猜数。
- 本报告无法实际运行 KLDM 的完整训练与 DFT 松弛,复现性判断基于论文与公开仓库可见内容。
- HTML 已通过 Warm Editorial 结构与离线依赖验证(0 warnings);运行环境未提供
/usr/bin/chromium、/opt/pw-browsers浏览器二进制,因此无法完成 Playwright 的浅色、深色、移动端截图实渲染,未把静态校验冒充视觉验收。 - 去重索引已在本次产出后更新。