10分钟快速上手lift-oQ8Apple Silicon上跑通PDF转JSON的第一步【免费下载链接】lift-oQ8项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/lift-oQ8想用 Mac 本地完成 PDF 转 JSONlift-oQ8 正是为 Apple Silicon 打造的 PDF转JSON 开源模型它能把发票、合同、表单等文档图片直接抽取为结构化 JSON 数据模型下载完成后无需联网、无需 GPU 服务器。本文用 10 分钟带你走完环境准备、模型加载与首次推理的全流程迈出在 Mac 上跑通 PDF转JSON 的第一步。lift-oQ8 是什么一台 Mac 就能跑的 PDF转JSON 模型lift-oQ8 是 mlx-community 社区对 Datalab 开源模型 datalab-to/lift 的 MLX 转换版本基于 9B 参数的 qwen3_5 视觉语言模型专攻结构化信息抽取输入 PDF 页面或文档图片输出符合要求的 JSON。常见的应用场景包括 发票信息抽取号码、金额、明细行 合同与单据的关键字段提取 表单、证件、报表的批量结构化录入oQ8 表示它采用了数据驱动的逐层混合精度量化约 8.6 bits/weight由 oMLX 工具生成把模型体积从 bf16 版的 18GB 压缩到约 9.7GB让普通 M 系列 Mac 也能轻松装载。为什么选它轻量、快速、输出更省心对比项lift-bf16lift-oQ8本仓库量化精度16 bit约 8.6 bit模型体积18 GB9.7 GB峰值内存约 19.9 GB约 12.3 GB生成速度31 tokens/s约 58 tokens/s数据来自仓库 README在 M5 Max 128GB 上以单图发票抽取实测仅供参考。除此之外lift-oQ8 还支持JSON Schema 约束解码服务端会在生成过程中强制校验输出格式确保结果一定是合法且字段类型正确的 JSON省去繁琐的后处理特别适合自动化流程。第一步确认 Mac 环境与测试图片芯片Apple SiliconM1/M2/M3/M4/M5 系列均可内存建议 16GB 起步12GB 也可尝试工具安装 uvPython 包管理器一行命令搞定素材准备一张发票或文档截图如 invoice.png作为测试输入第二步一键跑通 PDF转JSON最快配置方法打开终端直接执行下面这一条命令即可完成框架安装、模型下载与推理uvx --from mlx-vlm mlx_vlm.generate \ --model mlx-community/lift-oQ8 \ --image invoice.png \ --prompt Extract the invoice as JSON. \ --max-tokens 800首次运行会自动安装 mlx-vlm 推理框架并下载模型权重到本地缓存之后再次运行即为秒级加载。若你的网络访问不便也可以先克隆仓库再指向本地路径git clone https://gitcode.com/hf_mirrors/mlx-community/lift-oQ8克隆完成后把--model参数换成本地目录如--model ./lift-oQ8即可效果完全一致。第三步进阶JSON Schema 让输出结构更稳定想让输出严格贴合你的业务字段先启动 OpenAI 兼容服务器uvx --from mlx-vlm mlx_vlm.server --model mlx-community/lift-oQ8 --port 8080之后用任意 OpenAI 客户端调用通过response_format传入 JSON Schema——比如只要求 invoice_number、total、line_items 这几个字段——服务端会在解码阶段按 schema 生成并校验返回的 JSON 天然可用、无需二次清洗。常见问题避坑指南生成不停止、反复刷出|im_end|这是上游模型的已知问题本仓库已在generation_config.json中补齐 eos_token_id248044、248046直接使用不会触发。内存不够怎么办可换用同系列的 oQ6、oQ5、oQ4 等更小量化版本体积最低可到 4.6GB、峰值内存约 6.2GB。效果与许可如何上游 FP 版在 Datalab 225 份文档基准上字段准确率达 90.2%权重采用修改版 OpenRAIL-M 许可研究、个人及营收低于 500 万美元的初创企业可免费使用。相关文件指引想深入了解模型细节可以从仓库中的这些文件入手README.md官方使用说明与全部量化变体对比config.json模型架构配置qwen3_5、32 层、视觉塔等generation_config.json生成参数与 eos 修复model.safetensors.index.json权重分片索引chat_template.jinja多模态对话模板tokenizer.json/processor_config.json分词与图像预处理配置现在你已经在 Apple Silicon 上迈出了 PDF转JSON 的第一步。下一步不妨把发票、合同、表单批量喂给 lift-oQ8搭建一套属于你自己的本地文档结构化抽取流水线【免费下载链接】lift-oQ8项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/lift-oQ8创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 10分钟快速上手lift-oQ8：Apple Silicon上跑通PDF转JSON的第一步
10分钟快速上手lift-oQ8Apple Silicon上跑通PDF转JSON的第一步【免费下载链接】lift-oQ8项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/lift-oQ8想用 Mac 本地完成 PDF 转 JSONlift-oQ8 正是为 Apple Silicon 打造的 PDF转JSON 开源模型它能把发票、合同、表单等文档图片直接抽取为结构化 JSON 数据模型下载完成后无需联网、无需 GPU 服务器。本文用 10 分钟带你走完环境准备、模型加载与首次推理的全流程迈出在 Mac 上跑通 PDF转JSON 的第一步。lift-oQ8 是什么一台 Mac 就能跑的 PDF转JSON 模型lift-oQ8 是 mlx-community 社区对 Datalab 开源模型 datalab-to/lift 的 MLX 转换版本基于 9B 参数的 qwen3_5 视觉语言模型专攻结构化信息抽取输入 PDF 页面或文档图片输出符合要求的 JSON。常见的应用场景包括 发票信息抽取号码、金额、明细行 合同与单据的关键字段提取 表单、证件、报表的批量结构化录入oQ8 表示它采用了数据驱动的逐层混合精度量化约 8.6 bits/weight由 oMLX 工具生成把模型体积从 bf16 版的 18GB 压缩到约 9.7GB让普通 M 系列 Mac 也能轻松装载。为什么选它轻量、快速、输出更省心对比项lift-bf16lift-oQ8本仓库量化精度16 bit约 8.6 bit模型体积18 GB9.7 GB峰值内存约 19.9 GB约 12.3 GB生成速度31 tokens/s约 58 tokens/s数据来自仓库 README在 M5 Max 128GB 上以单图发票抽取实测仅供参考。除此之外lift-oQ8 还支持JSON Schema 约束解码服务端会在生成过程中强制校验输出格式确保结果一定是合法且字段类型正确的 JSON省去繁琐的后处理特别适合自动化流程。第一步确认 Mac 环境与测试图片芯片Apple SiliconM1/M2/M3/M4/M5 系列均可内存建议 16GB 起步12GB 也可尝试工具安装 uvPython 包管理器一行命令搞定素材准备一张发票或文档截图如 invoice.png作为测试输入第二步一键跑通 PDF转JSON最快配置方法打开终端直接执行下面这一条命令即可完成框架安装、模型下载与推理uvx --from mlx-vlm mlx_vlm.generate \ --model mlx-community/lift-oQ8 \ --image invoice.png \ --prompt Extract the invoice as JSON. \ --max-tokens 800首次运行会自动安装 mlx-vlm 推理框架并下载模型权重到本地缓存之后再次运行即为秒级加载。若你的网络访问不便也可以先克隆仓库再指向本地路径git clone https://gitcode.com/hf_mirrors/mlx-community/lift-oQ8克隆完成后把--model参数换成本地目录如--model ./lift-oQ8即可效果完全一致。第三步进阶JSON Schema 让输出结构更稳定想让输出严格贴合你的业务字段先启动 OpenAI 兼容服务器uvx --from mlx-vlm mlx_vlm.server --model mlx-community/lift-oQ8 --port 8080之后用任意 OpenAI 客户端调用通过response_format传入 JSON Schema——比如只要求 invoice_number、total、line_items 这几个字段——服务端会在解码阶段按 schema 生成并校验返回的 JSON 天然可用、无需二次清洗。常见问题避坑指南生成不停止、反复刷出|im_end|这是上游模型的已知问题本仓库已在generation_config.json中补齐 eos_token_id248044、248046直接使用不会触发。内存不够怎么办可换用同系列的 oQ6、oQ5、oQ4 等更小量化版本体积最低可到 4.6GB、峰值内存约 6.2GB。效果与许可如何上游 FP 版在 Datalab 225 份文档基准上字段准确率达 90.2%权重采用修改版 OpenRAIL-M 许可研究、个人及营收低于 500 万美元的初创企业可免费使用。相关文件指引想深入了解模型细节可以从仓库中的这些文件入手README.md官方使用说明与全部量化变体对比config.json模型架构配置qwen3_5、32 层、视觉塔等generation_config.json生成参数与 eos 修复model.safetensors.index.json权重分片索引chat_template.jinja多模态对话模板tokenizer.json/processor_config.json分词与图像预处理配置现在你已经在 Apple Silicon 上迈出了 PDF转JSON 的第一步。下一步不妨把发票、合同、表单批量喂给 lift-oQ8搭建一套属于你自己的本地文档结构化抽取流水线【免费下载链接】lift-oQ8项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/lift-oQ8创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考