新研究提出自适应测试时计算分配框架,优化块扩散语言模型推理
arXiv 上发布了一篇关于块扩散语言模型的新论文,提出了一种统一的自适应测试时计算分配框架,旨在解决长链思维推理中速度与效果的权衡问题。该框架在解码层面引入了有界自适应置信度解码(BACD),这是一种基于模型置信度的难度感知采样策略,能够动态调整去噪过程,加速推理并控制错误累积。此外,框架还在块生成层面实现了自适应分配。实验表明,该方法在复杂推理任务上提升了效率,同时保持了模型性能。这项研究为扩散语言模型的实际部署提供了新的优化方向。