Meta发布量化推理模型论文揭示推理犹豫问题

Meta研究指出，量化后的推理模型常因对正确答案犹豫不决而性能下降，压缩导致模型在关键时刻停顿。