AnyLanguageModel 1.0统一端侧与托管接口

Hugging Face 发布 AnyLanguageModel 1.0，以及 swift-huggingface 1.0、swift-xet 1.0，用同一 API 接入 Apple 端侧模型与托管模型；该框架也支持 Linux，服务器可使用同一套代码。 Hugging Face 表示，托管提供商与本地模型具备相同的引导式生成、支持流式输出的工具调用和响应 token 用量统计功能。切换提供商时，如果新提供商无法重放推理块，系统会自动从请求中省略这些块。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。