上交大洪亮课题组&上海AI实验室团队发布FSFP，基于语言模型的蛋白质功能小样本预测方法，登Nature子刊

编辑 | ScienceAI

近日，上海交通大学自然科学研究院/物理天文学院/张江高研院/药学院洪亮教授课题组，联合上海人工智能实验室青年研究员谈攀，在蛋白质突变-性质预测上取得重要突破。

该工作采用全新的训练策略，在使用极少湿实验数据的情况下，极大地提高了传统蛋白质预训练大模型在突变-性质预测的效果。

该研究成果以《Enhancing the efficiency of protein language models with minimal wet-lab data through few-shot learning》为题，于 2024 年 7 月 2 日发表在《Nature Communications》上。

论文链接：

• https://www.nature.com/articles/s41467-024-49798-6

研究背景

酶工程需要对蛋白质进行突变并筛选，以获得更优的蛋白质产品。传统湿实验方法需要反复进行实验迭代，耗时耗力。

深度学习方法可以加速蛋白质突变改造，但需要大量蛋白质突变数据训练模型。获取高质量突变数据又受传统湿实验制约。

亟需一种无需大量湿实验数据即可准确预测蛋白质突变-功能的方法。

研究方法

本研究提出 FSFP 方法，结合元学习、排序学习和参数高效微调，在仅利用几十个湿实验数据的情况下训练蛋白质预训练模型，大幅提高突变-性质预测效果。

FSFP 方法：

• 利用蛋白质预训练模型评估目标蛋白质与ProteinGym中蛋白质的相似度。
• 选取与目标蛋白质最相近的两个ProteinGym数据集作为元学习辅助任务。
• 利用GEMME对目标蛋白质的打分数据作为第三个辅助任务。
• 利用排序学习损失函数和Lora训练方法，在少量湿实验数据上训练蛋白质预训练模型。

测试结果表明，即使原始预测相关性低于 0.1，FSFP 方法在仅利用 20 个湿实验数据训练模型后，也能使相关性提升至 0.5 以上。

图示：FSFP 概述。（来源：论文）

研究结果
同时，为了研究 FSFP 的有效性。我们在一个具体的蛋白质 Phi29 改造案例中进行了湿实验验证，FSFP 在只使用 20 个湿实验数据训练模型的情况下，能够将原始蛋白质预训练模型 ESM-1v 的 top-20 的单点突变预测阳性率提高 25%，并且能找到将近 10 个全新的阳性单点突变。

图示：使用 FSFP 工程化 Phi29。（来源：论文）

总结

本工作中，作者提出了一个基于蛋白质预训练模型的全新的微调训练方法 FSFP。

FSFP 综合利用元学习、排序学习以及高效参数微调技术，能在只利用 20 个随机湿实验数据的情况下，高效训练蛋白质预训练模型，且能大幅提高模型的单点突变预测阳性率。

上述结果表明，FSFP 方法对解决现在蛋白质工程的高实验周期，降低实验成本具有重要意义。

作者信息

自然科学研究院/物理与天文学院/张江高等研究院洪亮教授，和上海人工智能实验室青年研究员谈攀为通讯作者。

上海交大物理天文学院博士后周子宜，硕士生张良，博士生余元玺，以及生命科学技术学院博士生吴邦昊为共同第一作者。

以上是上交大洪亮课题组&上海AI实验室团队发布FSFP，基于语言模型的蛋白质功能小样本预测方法，登Nature子刊的详细内容。更多信息请关注PHP中文网其他相关文章！