SCMPPI:监督式对比多模态框架用于预测蛋白质间相互作用
论文总结1、作者提出SCMPPI一种监督式对比多模态框架将蛋白质的序列数据和互作网络的图结构数据整合起来用于预测蛋白质间的相互作用。2、在监督对比学习中引入负样本过滤机制修改损失函数为 LP−SupLP−Sup降低了假阴性率增强了特征嵌入质量。3、消融实验证明序列模块、图模块与对比学习模块三者结合效果最佳缺失任一模块均显著降低性能。摘要蛋白质间相互作用PPI预测在解读细胞功能和疾病机制方面起着关键作用。为了解决传统实验方法和现有计算方法在跨模态特征融合和假阴性抑制方面的局限性我们提出了SCMPPI——一种新型监督对比多模态框架。通过有效整合基于序列的特征AAC、DPC、ESMC-CKSAAP与网络拓扑Node2Vec嵌入并结合增强的对比学习策略和负样本过滤SCMPPI实现了更优越的预测性能。在八个基准数据集上的广泛实验展示了其最先进的准确率98.13%和AUC99.69%以及出色的跨物种泛化AUC99%。在CD9网络、Wnt通路分析和癌症特异性网络中的成功应用进一步凸显了其在疾病靶点发现方面的潜力确立了SCMPPI作为多模态生物数据分析的强大工具。引言蛋白质-蛋白质相互作用PPI是细胞内许多生物过程的核心包括信号转导、基因表达调控、代谢调控以及细胞周期[1–3]。准确预测PPI对于理解细胞功能、揭示疾病机制以及识别潜在药物靶点具有重要意义[4]。然而传统的实验方法如酵母二杂交筛选[5]和串联亲和纯[6]通常耗时、劳动强度高且成本高昂。因此近年来计算方法已成为PPI预测的热门研究方向吸引了大量关注[7–9]。 随着生物信息学的快速发展基于多种数据类型的多模态模型如序列信息、结构信息和网络信息逐渐成为PPI预测的主流方法。这些方法通过整合来自不同来源的信息显著提高了预测准确性。例如DF-PPI [10] 增强了序列特征捕捉整合了手工设计的特征和语义嵌入采用动态加权融合策略以提升模型稳定性。而TAGPPI[11]则结合AlphaFold预测的结构特征与序列信息并通过图神经网络模型提升预测准确性。作为一种有效的自我监督学习方法对比学习近年来在生物信息学领域日益受到关注[12 13]特别是在处理高维非结构化生物数据蛋白质序列和结构信息和优化模型泛化方面[14 15]。然而迄今为止尚无研究将监督对比学习应用于PPI预测任务。 现有的多模态PPI模型仍面临若干挑战首先一些方法依赖特定的特征提取方法且缺乏高精度蛋白质结构数据限制了这些模型的应用。其次这些模型的鲁棒性和泛化性仍需进一步提升。此外假阴性预测问题依然存在。 为解决这些问题本研究提出了一种新型监督对比多模态框架SCMPPI旨在通过结合多模态特征与监督对比学习进一步提升PPI预测性能。我们进行序列嵌入AAC、DPC、ESMCCKSAAP并结合Node2Vec图嵌入方法促进序列特征和网络信息的联合表示学习。对于PPI任务我们通过引入负样本过滤机制和修改对比损失函数来增强监督对比学习。这些改进增强了模型嵌入序列和网络信息的能力从而降低了假阴性率。对多个基准数据集的实验验证表明SCMPPI在预测准确性、鲁棒性和泛化能力方面优于现有方法。我们的主要贡献如下• 我们提出了一个深度学习框架SCMPPI能够整合蛋白质序列特征和PPI网络信息并结合改进的监督比较学习策略。• SCMPPI不仅在多个基准数据集上实现了最先进的性能还表现出良好的鲁棒性、可推广性和低误报性。• 通过对比学习实现的多模态协作机制为交互预测提供了更灵活的框架有望推动生物医学研究的发展。相关工作相关早期工作包括多模态模型在生物任务中用于PPI预测和对比学习的研究。PPI多模态模型在PPI预测领域多模态模型的探索推动了该领域向更高的技术复杂性和数据多样性发展。通过整合序列、结构和网络信息这些方法显著提升了预测准确性。DF-PPI和TAGPPI等模型因其结合多种信息源的优势而受到关注。TAGPPIBosheng Song 等2022[11] 创新地将 AlphaFold 预测的结构特征与序列信息结合起来构建了一个图神经网络模型。然而其性能受限于结构预测的准确性且在低质量数据场景下的鲁棒性仍需进一步验证。DF-PPIHoai-Nhan Tran 等2024[10]通过改进的APAACplus描述符增强序列特征捕捉并通过动态加权融合策略将手工特征与语义嵌入整合。它还通过批处理归一化提升模型稳定性。然而其对GPU资源的依赖以及手工设计功能的冗余性可能限制了其大规模应用。 本研究利用ESMC蛋白质语言模型[16]提取序列嵌入结合Node2Vec图嵌入方法[17]实现序列特征和网络信息的联合表示学习。与生物信息学PPI领域多模态方法的研究同步对比学习的优越性已被认可并尝试将对比学习应用于生物信息任务。生物任务中的监督对比学习在生物信息学领域监督对比学习已成为一种有效的特征嵌入方法展示了其在各种任务中的独特优势。通过优化正负特征分布样本在包含正面样本标签信息的同时对比学习增强了模型区分相似与不同样本的能力。这使得它特别适合处理高维非结构化生物数据如蛋白质序列和结构信息。因此对比学习已被广泛应用于提升模型嵌入序列和结构信息的能力。例如EPACTYumeng Zhang 等2024[13]框架利用对比学习与预训练蛋白质语言模型TAPE结合显著提升了T细胞受体-抗原结合特异性的预测。然而该框架采用负抽样策略可能会引入不可避免的偏差导致更高的假阴性概率[42]。此外TPpred-SCKe Yan 等2023[12] 将对比学习扩展到多标签分类任务预测具有多功能属性的肽。这些方法不仅提高了预测准确性还提升了模型处理长序列和复杂网络的能力。 本研究将监督对比学习[15]应用于PPI任务。通过拉近正样本对、将负样本分离拉近以及提取标签信息我们提高了多模模型嵌入序列和结构信息的能力。我们还采用了阴性样本过滤机制以降低假阴性的可能性并将SuoCons LSup的损失调整为LP −Sup用于PPI。方法本节阐述了SCMPPI框架的架构这一创新概念旨在促进高效且高质量的PPI预测。框架的结构和设计原则在第3.1节中有详细阐述随后在第3.2节概述多模融合技术的应用最后分别介绍其核心对比学习模块第3.3节和分类器第3.4节。图1SCMPPI架构。a SCMPPI 包含蛋白质编码器、交互分类器和对比学习模块。b 编码器有序列编码器和 Node2vec。c 对比模块将嵌入映射到共享空间并利用余弦距离计算损失。d 序列编码器使用AAC、DPC和ESMC-CKSAAP来处理特征。e 通过输出分数预测相互作用。我们采用了分而治之的范式来开发SCMPPI架构。详细模型架构见图1。蛋白质多模态特征融合编码器主要是由序列编码器和Node2vec组成分别从蛋白质相互作用图中提取蛋白质的序列特征和嵌入特征。这两种特征通过MLP融合形成蛋白质的表示。蛋白质对的嵌入随后被融合以提供各种下游任务的模型预测或输入对比共嵌入模块。总之蛋白质序列被采样并输入多模态蛋白质编码器以获得蛋白质的嵌入。这些有效的嵌入随后被应用于各种模型预测的下游任务。多模态融合增强总体而言编码器通过Node2vec提取蛋白质相互作用图信息通过序列编码器提取蛋白质序列信息然后利用FC将它们积分成固定长度的蛋白质表示。 Node2vec 我们使用NW-align工具[18]从STRING数据库中检索相似蛋白[19]发现了相似蛋白质的相互作用网络。然后我们移除与原始蛋白质相关的边缘以避免数据泄露[20]。接下来Node2vec 捕捉这些相似蛋白质的图嵌入这些嵌入被用作原始蛋白质的图嵌入。 在PPI任务中我们关注两种相似性顶点均匀性和结构等价[21–23]。顶点同质性表明具有相似特征的蛋白质更可能相互作用而结构等效性则表示具有相似作用的蛋白质倾向于相互作用。这些相似性有助于预测蛋白质相互作用[24]。 为了捕捉这些属性我们通过有偏随机游走生成蛋白质节点上下文。蛋白质节点t到蛋白质节点x的转移概率定义为其中 wtx 是边权重αpqt x 是搜索偏置。这使得Node2vec能够探索局部和全局图结构并学习有意义的蛋白质节点嵌入。 序列编码器 拟议的序列编码器将蛋白质序列转换为高维向量表示用于功能预测、分类或结构分析等下游任务。它集成了三种特征提取策略AAC、DPC和ESMCCKSAAP能够捕捉从全局组成到局部结构模式及长距离依赖关系的多种序列特征。 i AAC氨基酸组成[25] 计算序列中每个氨基酸的频率生成一个20维向量这产生大小为[20 20 960]的嵌入遍历距离k从0到3时得到形状为[k 1 20 20 960]。该张量可根据后续任务重新塑形调整为三维形状 [k × 960 20 20]用于三维卷积操作。在我们的研究中k 3 时最终重塑嵌入的形状为 [3840 20 20]。参数详情请参见章节A.2.该整合利用ESMC模型的生物物理和进化见解嵌入氨基酸对的上下文信息间隙可达k反映残基相关性并突出蛋白质内部的局部相互作用。 AAC捕捉整体氨基酸组成DPC通过相邻对聚焦局部结构CKSAAP通过ESMC嵌入捕捉长程依赖性和上下文特征。这种多尺度融合提供了丰富且全面的序列表示非常适合生物信息学任务。对比学习模块对比学习损失 SCMPPI 的对抗学习损失基于无监督对比学习方法 SimCLR [14]。SimCLR的丧失可以表述为其中i ∈ I 1 2 ... 2N 表示训练批次 N 中增强样本的索引。而ji表示同一来源样本中另一个增强样本的索引。Ai I \ i 表示不含 i 的指标集合。τ 表示温度参数控制硬负样本的惩罚强度[27]。具体来说较小的温度值导致最难的负样本受到更强的惩罚代表向量间的相似性更大。由ji索引的样本是与i相关的正样本而其他样本视为负样本。在SimCLR中每个锚点样本只有一个正样本导致2N − 1个负样本。 虽然SimCLR通常用于对大型无标签数据集进行预训练但它忽略了标签信息。SupCons [15] 提出了一种将标签纳入损失函数的方法从而能够有效利用带标签的信息。其公式表述为其中 P i {p|p ∈ Ai ∧ yp yi} 表示与 i 标签相同的正样本集合。与SimCLR相比SupCons扩展了每个锚样本的正样本集有效利用了阳性样本的标签信息。然而SupCons 仅利用正样本标签信息并未有效利用负样本标签信息假设所有不同类别的非锚定样本都是低假阴性概率的负样本。 为了更好地收集负面样本信息并降低本研究中的假阴性概率我们修改了SupCons以获得蛋白质监督的对比学习损失Lp−Sup其中tiq表示样本i与样本q之间的Cos分数[28]用于衡量样本i和q之间的相似度。术语I{tia≤τ}x过滤阴性样本以降低假阴性概率其中Cos分数相似度低于阈值τ的样本i和q被接受为负样本。 在最小化Lp−Sup时相似度更高的样本在特征空间中会更紧密地聚集。相反它们被分开了。共嵌入空间多模融合编码器生成的两种蛋白质表示通过投影投影器投影到共享的潜在空间中。在我们的对比学习方法中一个蛋白质被指定为锚点相关的结合蛋白在潜伏空间中被拉近锚点而“非结合”负性蛋白质则被推开。给定一个蛋白质、一组结合正蛋白和一组诱饵负蛋白及其在训练批次中的投影计算蛋白质对之间的余弦相似度。我们使用统一流形近似与投影UMAP[29]来降低投影的维度导致蛋白质嵌入在二维空间中的不同。在图2中我们从独立测试集中随机选取15对结合阳性蛋白并将对应的嵌入投影到2D UMAP图中涵盖对比学习前后。两张图的比较显示对比学习后嵌入间距更近证明了对比学习在PPI中的有效性。预测模块在一组N个蛋白质序列Si Sj的训练批次中每对通过蛋白质多模态特征融合编码器生成潜在载体Fi和Fj。通过将它们串联起来我们得到嵌入 Fij [Fi;Fj]通过MLP生成分类结果其中 yˆij 是 Si Sj 之间预测的相互作用概率。 对于一批N个输入Si Sj yij的二元交叉熵损失为实验本节介绍我们使用的实验装置并分析发现。实验配置基线方法在我们的实验中我们将算法表示为SCMPPI并与传统优化器和现有的PPI预测稳健方法进行比较。传统考虑的优化器是决策树DT和随机森林RF。现有的稳健PPI预测方法包括DeepFE-PPI[7]、PIPR[8]、KSGPPI[30]、TAGPPI[11]、DF-PPI[10]、DeepTrio[31]、DeeP-AAC[9]、DeeP-CNN[9]、DFC[32 33]、DCONV[34 33]和HNSPPI[33]。本实验采用了五重交叉验证方法该方法已被以往研究广泛采用[35–37]。此外如前所述上述模型的最佳配置也在各自著作中确定。数据集我们使用八个基准PPI数据集进行了实验。酵母PPI数据集[38–40]包含2,497个蛋白质和11,188个蛋白间相互作用PPI样本分布均衡序列完整。由Pan等人[41]构建的人类PPI数据集包含3,899个阳性样本和949个阴性样本共计2,502个蛋白质。为了平衡样本使用该方法生成了2950对新的阴性蛋白对。[33] 幽门螺旋杆菌数据集最初源自Rain的工作[42]包含1458对蛋白质涉及1313种不同蛋白。酵母PIPR切割数据集[30]源自酵母PIPR数据集包含4,487个阳性样本和4,487个阴性样本共计8,974个PPI涉及2,039个蛋白质。该多物种数据集[43]涵盖大肠杆菌、秀丽隐杆线虫和果蝇分别包含1,834、2,637和7,058个蛋白质。样本量为6,954、4,013和21,975个阴性样本每个阴性样本均有相同数量的阳性对。最后CD9网络、Wnt相关通路和癌症特异性网络数据集分别包含16、96和108个样本[10]。这些数据集为模型评估提供了丰富多样的资源。有关详细数据集的信息请参阅A.1子节结果分析SCMPPI在物种内数据集上的表现表1展示了SCMPPI模型在物种内数据集上的5倍交叉验证结果。如表所示SCMPPI模型在不同数据集上表现优异且稳定。酵母数据集评估的准确率acc和敏感度sen均超过98%。AUC和AUPRC代表模型区分不同阈值正负样本的能力以及在处理不平衡数据时的性能评估。四个物种内数据集中SCMPPI的AUC和AUPRC值均超过90%表明我们的模型具有高的判别力能够处理跨多个数据集的不平衡数据为PPI预测提供了可靠的解决方案。与现有算法的比较为验证其优越性能我们比较了拟议模型SCMPPI与现有四个物种特异基准数据集的稳健PPI预测方法。如表2、5、6和7所示SCMPPI在酵母、人类、幽门螺旋杆菌和PIPR切割数据集中表现最佳。 酵母数据集是PPI领域广泛认可的基准常用于评估先进方法的性能[38–40]。我们将SCMPPI模型与酵母数据集上的以下代表性方法进行了比较DE-PPI、TAGPPI、KSGPPI、PIPR、DeepFE-PPI、射频和DF。为确保公平比较我们保留了这些方法的结构参数和超参数。通过五重交叉验证对不同数据集的评估这些方法的性能进行了评估。如表2和图7所示酵母数据集中SCMPPI在几乎所有评估指标上表现最佳。通过使用多模编码器整合序列和网络特征并通过对比学习学习潜空间距离SCMPPI相比DeepFE-PPI分别提高了准确率、灵敏度Sen和Matthews相关系数MCC3.48%、5.90%和7.37%。与KSGPPI相比我们的模型提升了2.49%的AUC提升了1.59%。值得注意的是SCMPPI在所有方法中均达到最高的敏感度Sen98.48%和98.09%的F1评分。F1分数和敏感性是评估模型识别阳性实例能力的关键指标。高灵敏度表示模型能够识别大多数正样本。这尤为重要因为SCMPPI较少错误预测相互作用蛋白对为非相互作用因此假阴性FN比其他方法更少。在精度预方面我们的模型排名第二略低于最佳TAGPPI0.34%。然而在AUC和MCC等对二元分类器至关重要的谐波测量上我们的模型分别比TAGPPI高出1.97%和0.63%。这表明我们的模型在所有评估指标上实现了和谐平衡实现了高准确性和可靠性。 在评估模型性能时预测的稳定性也是一个重要因素。如图7所示我们的模型在所有评估指标上都表现出高度稳定性。具体来说DT模型显示准确率Acc、灵敏度Sen、AUC、F1、AUPRC和MCC的方框和胡须都相对较长表明指标波动较大且稳定性较差。除了传统模型外DeepFE-PPI在精度Pre、特异性Spec、F1和MCC方面也表现出较差的稳定性。这些发现凸显了我们聚变特征策略在PPI预测中的可靠性。稳健性与推广研究对于PPI预测鲁棒性和泛化性至关重要因为模型需要准确预测不同数据集和数据分布中的PPI。因此我们评估了模型的鲁棒性和泛化性结果显示SCMPPI在这两个方面表现异常出色。 表8展示了多个模型在多物种数据集上的表现包括秀丽隐杆线虫、黑胃肠杆线虫和大肠杆菌。SCMPPI在多个指标上优于其他比较模型包括准确性、精度和F1评分显示出其在预测不同物种PPI方面更强的适应性和稳健性。该模型有效克服了数据分布差异表现出更强的抗干扰性和离群值同时保持更稳定的预测性能。关于泛化SCMPPI表现优异尤其是在表3中酵母数据集用于训练并在幽门螺旋杆菌和人类数据集上测试仍保持最高的预测性能。这表明SCMPPI不仅在特定数据集上取得了优异成绩还能有效转移和适应跨数据集的新数据分布进一步验证了其广泛适用性和强强的泛化能力。消融研究通过消融实验我们评估了序列模块、图模块和对比学习模块在PPI预测中的贡献。在多个数据集酵母、人类、幽门螺旋杆菌和PIPR切割上进行的消融实验结果如表9所示表明序列Seq、图Graph和对比学习Cl模块的组合显著提升了模型的性能。在所有分析的数据集中该模型在结合使用三个模块Seq、Graph和Cl时表现最佳。该模型在一系列指标上表现出准最优性包括准确率Acc、马修斯相关系数MCC、灵敏度Sen、曲线下面积AUC和精度-回忆曲线下面积AUPRC。当移除任一模块Seq、Graph或Cl时性能显著下降凸显了每个模块对整体预测能力不可或缺的贡献。 总体而言消融实验验证了这三个模块的互补性质证明它们不仅提升了模型的鲁棒性、泛化能力和准确性还确保了PPI预测任务的效率和准确性。在PPI网络数据集上的测试本研究应用SCMPPI模型预测三个关键生物网络中的PPICD9、Wnt相关通路和癌症特异性网络。模型成功识别了图9中的关键PPI揭示了具有生物学和临床意义上的蛋白质[44 45]。 首先CD9是一种四斯宾素跨膜蛋白广泛分布于多种细胞类型中参与细胞粘附、迁移和融合源等过程[46]。在肿瘤转移中CD9起双重作用。在某些癌症中如前列腺癌CD9表达高与转移能力降低相关具有抑制肿瘤的效果。然而在其他类型的癌症中如胰腺癌高CD9表达与预后不佳相关。因此应基于特定癌症类型分析CD9在肿瘤预后和治疗中的作用。 Wnt相关通路在胚胎发育、细胞增殖、分化、迁移和组织稳态中起着关键作用。该通路的异常激活与多种癌症的发生和进展密切相关[47]。AXIN1和WNT9A是该通路的核心蛋白。AXIN1通过形成复合物来抑制Wnt通路的活性从而降解β-链蛋白而作为配体蛋白的WNT9A则激活该通路。调控Wnt信号通路的活性对癌症预防和治疗具有潜在临床价值。 最后在癌症特异性网络中CDK1和TP53是两个关键蛋白。CDK1调控细胞周期的G2/M期细胞增殖其异常激活可促进肿瘤细胞增殖源[48]。TP53作为肿瘤抑制基因负责DNA修复和细胞凋亡TP53的突变常见于多种癌症来源[49]。研究这些蛋白质及其相互作用可以为癌症治疗提供重要的理论基础。 通过SCMPPI模型的准确预测我们不仅验证了这些核心蛋白在各种生物过程中的重要作用还为癌症的早期诊断和靶向治疗开辟了新的研究方向。局限性和总结本研究引入了SCMPPI框架该框架通过结合多模态特征与监督对比学习为蛋白质蛋白相互作用PPI预测提供了创新解决方案。通过对比学习实现的多模态协作机制为交互分析提供了更灵活的解决方案。该方法使用监督对比学习目标对齐序列语义基于ESMC嵌入和结构拓扑来自已知图有效推进了多模态表示的学习并显著提升了特征对齐的完整性和鲁棒性。实验结果显示SCMPPI在多个基准数据集的准确性和泛化性方面均优于现有方法并且在PPI网络预测方面提供了可靠的结果。 不过我们也承认存在某些局限。尽管SCMPPI性能更优但其复杂性和计算需求仍需降低尤其是在处理大规模数据集时。此外该模型依赖特定的特征提取方法如Node2Vec用于图嵌入和基于序列的嵌入这可能限制其在某些生物环境中的适应性。未来的研究可以探索多尺度图神经网络架构并结合动态负样本选择策略以优化特征空间分布。