ChemRxiv Preprints· Hussein, Abdulwahab·· 16 天前精选AI 评分58
研究在低成本GPU上量化8亿参数逆合成模型RetroDFM-R
Taming the 8-Billion Parameter Model on a low-cost GPU card for Retrosynthesis
AI 导读
研究评估训练后量化（PTQ）对逆合成推理语言模型RetroDFM-R的影响，4-bit NormalFloat-4与双重量化nf4使Top-1准确率仅下降约2个百分点（相对3–4%），同时显著降低GPU显存需求。
推荐理由
研究评测了逆合成推理模型在多种量化方案下的精度与能耗权衡，为低成本部署提供参照。
来源：ChemRxiv Preprints · chemrxiv.org