量子化ローカルLLMは分子生成で良好だが、参照キナーゼ阻害剤への追従はモデル依存
- 4種のオープンソースLLMを元の精度および3段階の重み量子化でローカル実行し、制約なしの低分子生成と、文脈内で与えた参照キナーゼ阻害剤に基づく生成を評価した。
- 量子化により推論速度は向上し、特に2モデルで顕著だった一方、制約なし生成の品質(妥当性、一意性、薬物らしさ、多様性、合成可能性)は変わらなかった。
- 参照ガイド付き生成では、全精度で参照化学空間に近い分子を出し続けたのは1モデルのみで、2モデルはほぼ従わず、別の1モデルは最も強い量子化で追従性を失った。
💡 ポイント アブストラクトに基づく見解
無条件生成の妥当性やQEDのような指標は、まともなLLMならほぼ飽和しているので、「量子化しても劣化しない」という結論は弱い検証です。情報量が多いのは参照への追従性の結果で、こちらには本物の対照が要ります。参照セットからのランダム抽出や単純な骨格修飾スクリプトといった基準と、Tanimoto/骨格の重なりおよび新規性で比べるべきです。キナーゼ設計のループに量子化モデルを入れる前に、自社シリーズで使う精度のまま再検証します。