热点事件观察中
Samsung开源LittleBit亚1比特LLM量化官方实现
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Samsung Labs 开源了 LittleBit 与 LittleBit-2 的官方实现代码，二者都是把大语言模型量化到约 0.1 比特每权重的亚 1 比特方法。 技术上，该方法把稠密权重矩阵分解为低秩潜变量后再二值化，并以轻量学习的缩放因子恢复幅值信息。LittleBit-2（ICML 2026）在 LittleBit（NeurIPS 2025）基础上加入 Joint-ITQ 潜空间旋转对齐，仅作为可选的初始化方案引入，推理阶段不产生额外开销。
AI 根据报道生成 · 2 小时前更新
最新进展10月8日 21:29
LittleBit 通过潜变量分解实现亚 1 比特大语言模型量化报道时间线
沿着报道，了解事件的不同侧面。
10月8日
- Hacker News精选LittleBit 通过潜变量分解实现亚 1 比特大语言模型量化
LittleBit 项目把大语言模型压缩到 0.1 比特每权重，方法是把稠密权重矩阵分解为低秩潜变量再二值化，并用轻量学习的缩放因子恢复幅值信息。LittleBit-2（ICML 2026）在 LittleBit（NeurIPS 2025）基础上加入 Joint-ITQ 潜空间旋转对齐，仅作为 opt-in 初始化选项，推理时无额外开销。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。