跳到正文
原文
HF Daily Papers·· 6 天前精选AI 评分38

Speculative Sampling:交互式视频生成的低延迟推理方法

Speculative Sampling in Interactive Video Generation

AI 导读

本文提出 Speculative Sampling 推理方法,在自回归视频生成中保留大双向注意力窗口建模能力的同时保持小窗口的低延迟交互。该方法无需训练和 Self-Forcing 风格的后训练,应用在 MiniMax H3 上一次采样 5 秒视频,端到端响应延迟约 1.4 秒,可直接集成到任意交互式视频生成系统中。

推荐理由

原文提出无需训练的 Speculative Sampling 推理方法,把双向注意力窗口大小与低延迟约束解耦,可供交互式视频生成团队参考工程取舍。

来源:HF Daily Papers · huggingface.co