跳到正文

MiniCPM-OCR 登陆 Apple Silicon

摘要

MiniCPM-OCR 1.0(1.3B)和 MiniCPM-OCR Jev(2B)现已可在 Apple Silicon 上运行,这得益于我们与 @neywalabs 团队的合作!🚀 在 M5 Max 上,OCR 1.0 的预填充速度达到 6,339 tok/s,解码速度为 220–235 tok/s,而 Jev 的 OCR 结果中位延迟仅为 62.9 ms。 查看博客:https://runnativ.ai/blog/minicpm-ocr-on-mlx-vlm

摘要由模型根据原文撰写,以原文为准。

正文 · 原文

MiniCPM-OCR 1.0 (1.3B) and MiniCPM-OCR Jev (2B) now run on Apple Silicon, thanks to our partnership with the @neywalabs team! 🚀

On an M5 Max, OCR 1.0 reaches 6,339 tok/s prefill and 220–235 tok/s decode, while Jev scores OCR results in just 62.9 ms median latency.

Check out the blog: https://runnativ.ai/blog/minicpm-ocr-on-mlx-vlm

来源:OpenBMB · x.com

引用原文

OpenBMB. MiniCPM-OCR 1.0 (1.3B) and MiniCPM-OCR Jev (2B) now run on Apple Silicon, thanks to our partnership with the @neywalabs team! 🚀[EB/OL]. (2026-10-29)[访问日期]. https://x.com/OpenBMB/status/2115474966674358444.