热点事件持续更新
Cerebras公布万亿模型晶圆级部署方案
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Cerebras公布将多万亿参数模型拆分至多块 WSE-3T 晶圆运行的方案，称通过流水线可实现每秒1000至2000余个 token。其以约3万亿参数的开源模型 Kimi K3 为例，采用4-bit权重量化和8-bit KV cache，将69个线性注意力层与24个稠密层映射到59块晶圆；吞吐量结果基于假设平均请求长度为256k的条件。
AI 根据报道生成 · 1 小时前更新
最新进展10月25日 09:33
Cerebras 介绍在 WSE-3T 上部署万亿参数 AI 模型的方法报道时间线
沿着报道，了解事件的不同侧面。
10月25日
- Hacker News精选Cerebras 介绍在 WSE-3T 上部署万亿参数 AI 模型的方法
Cerebras 介绍如何将万亿参数模型拆分到多块 WSE-3T 晶圆，并通过流水线运行达到 1000-2000+ tokens per second。以开源模型 Kimi K3 为例，3T 参数模型采用 4-bit 权重量化和 8-bit KV cache，按 69 个线性注意力层与 24 个稠密层映射到 59 块晶圆。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。