热点事件持续更新
Janas-LLM：用 C 写的开源推理引擎，支持 SSD 流式加载 MoE 专家
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Maurizio Cammalleri 开源了一款名为 Janas-LLM 的推理引擎，用 C 编写，仅依赖 C 标准库。其做法是从 NVMe SSD 流式加载 MoE 专家权重，从而在 32GB 内存的笔记本上运行 80B 级大模型。 该项目以 GPL v3 或更高版本发布。Cammalleri 在说明中将其标注为实验性项目而非产品，当前处于早期开发阶段。
AI 根据报道生成 · 1 小时前更新
最新进展10月13日 06:05
Janas：通过从 SSD 流式加载 MoE 专家，让笔记本运行超过内存容量的 LLM报道时间线
沿着报道，了解事件的不同侧面。
10月13日
- Hacker News精选Janas：通过从 SSD 流式加载 MoE 专家，让笔记本运行超过内存容量的 LLM
Janas-LLM 是一款用 C 写的开源推理工具，能在 32GB 内存笔记本上通过 NVMe SSD 流式加载 MoE 专家来运行 80B 级大模型。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。