本地大模型量化可加速分子生成,但参考化学空间的遵循度因模型而异
- 研究在原始精度和三种量化水平下,比较了四个开源大模型在本地生成分子的表现。
- 任务包括无约束生成,以及依据提示中给出的一组激酶抑制剂进行的引导式生成。
- 在无约束生成中,量化提高了推理速度,而有效性、多样性等质量指标未受影响。
- 不同模型对参考化学空间的遵循程度差异明显,其中一个模型在最低精度下失去了这种能力。
💡 要点 基于摘要的观点
这里的有效性和多样性是比较弱的衡量标准,输出可以明显偏离你想要的化学空间,而这两项指标依然不变。做参考引导设计时,我更想看的是与所给激酶集合的相似度、相对该集合的新颖性,再加上铰链区结合片段或骨架的检查。某个模型在低精度下悄悄不再遵循提示,仅看无约束生成的指标也完全看不出来。换作我自己的项目,会在实际要部署的量化级别上,逐个模型跑一遍这种参考遵循度测试。