跳到正文
热点事件观察中

STATE扰动预测解码器存在低秩瓶颈

1 篇报道1 个报道来源3 天前更新

先了解这件事

AI 综述

Zheyu Zhang等作者审计了STATE模型的状态转移解码器,发现其首层注意力输出为低秩:在SE-600M、scGPT和Tahoe-x1三种编码器及四种CRISPRi细胞系上,将该输出投影到4–32个由训练激活估计的固定方向,仍可保持平均逐扰动Pearson delta相关(PDC)。 研究还发现,扰动观测响应与最近训练响应的余弦距离越大,PDC越低。作者据此提出逐预测置信度评分,称在一种编码器和细胞系上校准的阈值可迁移到其他编码器和细胞系,且该评分对药物扰动的PDC仍有预测力。 这些结果指向STATE扰动响应预测的可靠性受解码器低秩结构限制,并给出一个可用于标记低置信预测的评分,但阈值迁移与药物扰动上的预测力均为作者报告的结果。

AI 根据报道生成 · 3 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. arXiv · q-bio.QM (定量方法)精选
    研究揭示STATE扰动预测解码器的低秩瓶颈,并提出逐预测置信度评分

    研究审计STATE的状态转移解码器在SE-600M、scGPT和Tahoe-x1三种编码器及四种CRISPRi细胞系上的表现,发现其首层注意力输出为低秩,投影到4-32个由训练激活估计的固定方向仍可保持平均逐扰动Pearson delta相关(PDC)。

本事件热度走势

可比范围当前
6
可比范围峰值
1011月6日 14:00
近 24 小时变化
-21%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。