量化对本地LLM分子生成影响因模型而异

ChemRxiv预印本作者Bortot等评测了Gemma-4-31B、GPT-OSS-120B、Mistral-Small-4-119B和Qwen-3.6-35B-A3B在BF16、Q8、Q6、Q4量化精度下的分子生成表现，任务分为无约束生成和以69个参考激酶抑制剂为上下文条件的类药分子生成。 结果显示，在无约束生成任务中，量化未影响分子的有效性、唯一性、类药性、多样性和可合成性。但在参考条件生成中，模型对参考分子的遵循程度因模型而异：Gemma-4-31B是唯一在所有精度下都能稳定生成与参考化合物相似分子的模型；GPT-OSS-120B在BF16、Q8、Q6下能遵循参考分子，但在Q4量化下失去生成目标化学空间分子的能力。 这些结果提示，低精度量化对分子生成的影响取决于具体模型和任务条件，不能一概而论。

AI 根据报道生成 · 2 天前更新