NVIDIA Blog· Dion Harris·· 16 小时前精选AI 评分65
GPT-6 Astra Ultrafast 如何借助 NVIDIA Blackwell GPU 实现最高 8 倍推理加速
How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast
AI 导读
OpenAI 在 NVIDIA Blackwell GPU 上推出 GPT-6 Astra Ultrafast 模式，借助推理优化使 token 生成速度比 Astra Standard 模式最高提升 8 倍，现已在 OpenAI API 及符合条件的 ChatGPT Work 和 Codex 用户中开放。
推荐理由
OpenAI 借助 NVIDIA Blackwell 架构与自研模型优化，将 GPT-6 Astra 推理速度提升至最多 8 倍，呈现了软硬件协同迭代的具体做法。
来源：NVIDIA Blog · blogs.nvidia.com