面壁 MiniCPM·· 1 天前精选AI 评分48
面壁 MiniCPM-OCR Jev 2B 提供 llama.cpp GGUF 量化构建
openbmb/MiniCPM-OCR-Jev-gguf
AI 导读
MiniCPM-OCR Jev 2B 在 Hugging Face 提供面向 llama.cpp 的 GGUF 构建,可对文本、公式和表格区域评分并返回 0 到 1 的质量分数。仓库提供多个量化文件,Q4_K_M 是 1.274 GB 的最小推荐版本,IQ3_XS 为 1.027 GB;另附 llama-server 启动示例,ctx-size 设为 40960。
推荐理由
原文列出多种 GGUF 量化版本、文件体积与 llama.cpp 启动参数,便于部署者按资源条件选择构建并配置服务。
来源:面壁 MiniCPM · huggingface.co