AROMMA:统一单分子与混合物的嗅觉嵌入空间
AROMMA: Unifying Olfactory Embeddings for Single Molecules and Mixtures
摘要 Abstract
公开的嗅觉数据集小且分散——单分子数据集(如GS-LF)和混合物数据集(如BP)各自独立,嵌入空间不统一。现有方法要么只处理单分子(如POM),要么通过相似度或成对标签预测处理混合物,但表征是分离的、不对齐的。
本文提出AROMMA(Aggregated Representations of Olfaction via Molecule and Mixture Alignment),首次学习单分子和二元混合物共享的统一嵌入空间。每个分子由化学基础模型SPMM编码,混合物通过基于注意力的聚合器组合,确保排列不变性和非对称分子交互。通过知识蒸馏和类别感知伪标签对齐气味描述符集,AROMMA在GS-LF和BP数据集上分别提升3.2%和19.1% AUROC。
AROMMA打破了单分子与混合物之间的壁垒,用统一嵌入空间实现了跨域知识迁移,混合物预测提升19%——这是嗅觉AI从"单品鉴赏"走向"调香"的关键一步。
研究背景 Background
2023年Science发表的POM论文建立了单分子气味预测的强基线,但现实世界的嗅觉涉及混合物——两种或多种分子的组合会产生协同(agonism)或拮抗(antagonism)效应,不能简单叠加。
- POM的局限:仅处理单分子,约5000个训练样本,化学空间覆盖有限
- POMMix的尝试:用自注意力+排列不变池化学习混合物相似度,但无描述符级预测,且单分子/混合物表征不对齐
- MPNN-GNN的尝试:预测二元混合物的气味描述符,但标签集更窄、标注稀疏、无法与单分子嵌入桥接
- 数据集碎片化:GS-LF(5K单分子,138标签)和BP(60K混合物对,74标签)使用不同的描述符体系,标注密度差异大(5 vs 1.4标签/样本)
方法论 Methodology
分子嵌入器:化学基础模型SPMM
AROMMA使用SPMM(Structure-Property Multi-Modal foundation model)作为分子嵌入器。SPMM在约5000万分子上预训练,通过将分子结构与53种生化属性对齐来学习分子表征。相比POM仅在5K分子上训练,SPMM的化学空间覆盖更广。使用LoRA高效微调(仅110K/0.26%可训练参数)。
聚合模块:注意力机制
- 分子级自注意力:每个分子与其他分子交互,捕获非对称的分子间效应
- 全局可学习查询的交叉注意力:类似BERT的[CLS] token,用可学习查询向量聚合混合物级信息,比POMMix的统计池化(均值/方差/最大/最小)更灵活
- 排列不变性:混合物表示不依赖分子输入顺序
训练策略:知识蒸馏 + 伪标签
解决两个数据集描述符体系不统一的核心方案:
- 统一标签集:152个标签(GS-LF全集),BP缺失的78个标签用零填充
- 知识蒸馏(MLD Loss):用POM作为教师模型,通过KL散度对齐单分子预测的概率分布
- 类别感知伪标签:根据GS-LF中各类别的正标签比例设定阈值,为BP的缺失标签生成伪标签,构建Pseudo-78和Pseudo-152增强数据集
- 再训练:用增强数据集重新训练,BP平均活跃标签从1.4提升到5.6
实现细节
- 4头注意力,SPMM嵌入768维→投影196维→交叉注意力384维
- LoRA rank=4, α=8,Adam优化器 lr=4e-5,早停patience=20
- 开源:
github.com/DGIST-Distributed-AI-Lab/aromma
关键结果 Key Results
| 模型 | GS-LF(单分子) | BP(混合物) | 综合 |
|---|---|---|---|
| POM | 0.874 | — | — |
| MPNN-GNN | 0.851 | 0.734 | — |
| AROMMA | 0.900 | 0.861 | 0.939 |
| AROMMA-P152 | 0.902 | 0.874 | 0.932 |
- 单分子SOTA:GS-LF上AUROC 0.900,比POM提升3.2%
- 混合物大幅提升:BP上AUROC 0.874,比MPNN-GNN提升19.1%
- 伪标签效果:BP标注密度从1.4→5.6标签/样本,有效恢复了潜在标注
- 跨域迁移:伪标签仅应用于BP,但GS-LF性能也提升——说明混合物知识成功迁移到单分子
消融实验
- SPMM vs POM嵌入器:SPMM显著优于POM(0.939 vs 0.898综合AUROC)
- 交叉注意力 vs PNA池化:可学习查询的交叉注意力优于统计池化
- 知识蒸馏:同时提升单分子和混合物性能
- LoRA微调:混合物预测受益于嵌入器更新
AROMMA证明了单分子和混合物的嗅觉表征可以在统一空间中互相增强,而非孤立学习。19%的混合物性能提升意味着"调香"场景的AI辅助成为可能。
个人见解 Insights
- 关键创新:统一嵌入空间的概念——不再是"单分子一套模型、混合物一套模型",而是共享表征空间实现双向知识迁移
- 化学基础模型的价值:SPMM在5000万分子上预训练,比POM的5K训练样本覆盖面大1000倍,这是性能飞跃的根本原因
- 伪标签的巧妙应用:利用GS-LF的类别分布信息为BP生成伪标签,既解决了标签缺失问题,又保持了标签分布一致性
- 局限:①仅处理二元混合物,三元及以上未验证 ②使用非立体SMILES,忽略了3D结构信息 ③BP数据集本身标注质量存疑(爬虫获取)
- 与Osmo POM的关系:AROMMA明确以POM为基线和教师模型,是对POM的直接继承和超越
参考资料 References
查看原文 View Original Paper
arXiv: 2601.19561
下载 PDF Download PDF
arXiv PDF
代码仓库 GitHub
DGIST-Distributed-AI-Lab/aromma