Brian Hie 团队报告 Evo 2 的生成式上下文学习能力
Brian Hie 团队报告 Evo 2 在少量同功能序列提示下可生成功能相似的新序列,作者称这是一种生成式上下文学习(ICL),且为训练时未预料到的涌现现象。
推荐理由:作者报告 Evo 2 在少量同功能序列提示下生成相似功能序列,并延伸到调控元件与蛋白设计任务。
企业与机构 · AI 平台企业
EvolutionaryScale 的全部动态:ESM 系列前沿生命大模型、开源权重、从头生成功能蛋白突破与商业合作。
5 条精选近 30 天 2 条共收录 8 条
Brian Hie 团队报告 Evo 2 在少量同功能序列提示下可生成功能相似的新序列,作者称这是一种生成式上下文学习(ICL),且为训练时未预料到的涌现现象。
推荐理由:作者报告 Evo 2 在少量同功能序列提示下生成相似功能序列,并延伸到调控元件与蛋白设计任务。
【全文总结】作者提出 HEIWA 混合显隐式水注意力模块,把溶剂介导的力场信息注入 ESM3 残基嵌入,以修正无溶剂建模导致的物理偏差。研究以嗜热蛋白同源分类为代理任务,用 70 个蛋白的分子动力学 RMSF 基准做生物物理筛选,发现基线模型系统性把氢键误判为失稳因素、并低估表面残基迁移率,加入 HEIWA 后 120 组超参数中有 4 组通过筛选。
推荐理由:研究用嗜热蛋白分类代理任务揭示 ESM3 缺少溶剂编码带来的物理偏差,并提出可迁移的注意力修正模块。
Roshan Rao 表示所有必要参数已更新,并发布仓库 esmfold2-inference-scaling,用于通过公开 API 复现 ESMFold2 的规模扩展结果。其引用的说明指出,规模扩展高度依赖对 pair representation 的扰动,论文结果设置了每轮随机 LM dropout mask、开头随机 LM 输入 mask、每轮重新随机 MSA 子采样和每轮变化的 MSA 列掩码,这些关键参数此前未在公开 API 中暴露,具体设置见补充材料。
推荐理由:作者公开可复现 ESMFold2 规模扩展结果的推理仓库,并说明此前 API 缺失的关键参数已更新。
Roshan Rao 等在 bioRxiv 发布关于 ESMC、ESMFold2 和蛋白质机制可解释性的论文,并对上周初版做了修订。
推荐理由:作者说明 ESMC、ESMFold2 与蛋白机制可解释性预印本的修订内容,涉及基准评测与结果口径调整。
Alex Rives 宣布推出 ESMFold2,一个面向蛋白生物学预测、设计与发现的开放科学引擎,称其在蛋白相互作用尤其是抗体上达到当前最优性能。作者称已针对癌症和免疫学相关的五个治疗靶点设计并验证了 miniprotein 结合剂和单链抗体,成功率很高,亲和力达到与治疗活性一致的水平。
推荐理由:ESMFold2 同时覆盖蛋白相互作用预测与结合剂设计,并给出多靶点湿实验验证结果,可作为评估蛋白基础模型能力的参照。