热点事件持续更新
百度发布并开源文心Unlimited OCR 2
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
百度发布并开源文心Unlimited OCR 2。百度称,在百页级单序列测试中,峰值KV Cache占用从47GB降至1.77GB,减少约96%;16路并发端到端吞吐量从360提升至1315 Token/秒,约为标准解码的3.65倍。 模型通过SR-SWA按需筛选相关页面和视觉信息,并以分块处理、复用边界页缓存及及时释放其余缓存的方式改进长文档解码。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 16:35
百度文心 Unlimited OCR 2 发布并开源,峰值 KV Cache 占用从 47GB 降至 1.77GB报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- 量子位精选百度文心 Unlimited OCR 2 发布并开源,峰值 KV Cache 占用从 47GB 降至 1.77GB
百度文心 Unlimited OCR 2 正式发布并开源,百页级单序列测试中的峰值 KV Cache 占用从 47GB 降至 1.77GB,减少约96%。SR-SWA按需筛选相关页面和视觉信息,无限解码机制通过分块处理、复用边界页缓存并及时释放其余缓存;16路并发端到端吞吐量从360提升至1315 Token/秒,约为标准解码的3.65倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。