跳到正文
原文
HF Daily Papers·· 3 天前精选AI 评分40

T²Quant 提出面向扩散语言模型的时间步任务感知量化框架

Different Tasks, Different Timesteps: Temporal Task-Aware Quantization for Diffusion Language Models

AI 导读

T²Quant 提出面向扩散语言模型的时间步任务感知混合精度量化框架,按下游任务和去噪步骤分配激活精度。该方法仅用少量无标签校准提示词预测精度敏感度,在固定 bit-width 预算下不增加平均精度预算,并将现有量化方法的结果最多提升 6.7 个百分点。实验覆盖 3 个扩散语言模型和 6 个基准,论文地址为 https://arxiv.org/abs/2610.31198。

推荐理由

论文将量化敏感度拆解为任务与去噪步骤两个维度,并给出固定预算下的精度分配方法及跨模型基准结果。

来源:HF Daily Papers · huggingface.co