HF Daily Papers·· 6 天前精选AI 评分51
OPTIC:通过跨层潜向量量化实现逐层嵌入的极限压缩
Extreme Compression of Per-Layer Embeddings via Cross-Layer Latent Vector Quantization
AI 导读
论文提出 OPTIC,在 Gemma 4 E4B 的 BF16 配置下实现 1,002x 的逐层嵌入(PLE)压缩,并保留未压缩模型 84.1% 的总体性能。
推荐理由
论文将 OPTIC 与 6 种传统量化基线对比,并给出 7 项基准上的性能保留率,便于判断高压缩率下不同量化方案的表现差异。
来源:HF Daily Papers · huggingface.co