1.3B 模型开源了，小老板该关心的不是参数

10 月 28 日，面壁智能开源了 MiniCPM-OCR 系列，其中一个 1.3B 的小模型，在文档解析基准上刷了两项纪录，处理速度到每秒 1.2 页。

1.3B。这个数字比大多数老板对大模型的想象小两个数量级。

同一天，第三方评测机构重构了智能指数，开源模型和闭源前沿的差距从上次的 3 分拉大到 12 分。新闻读起来像是开源不行。

我的判断相反。这两条放一起看，指向的是同一件事：模型能力正在分层，不再是一个模型打天下。

1.3B 能干什么，不能干什么

MiniCPM-OCR 这种量级，能力边界很清楚。单据、扫描件、报价单、快递面单这类格式相对固定的文档，它读得动，而且可以装在你自己的一台机器上跑，资料不出内网。

它做不了的是需要长链条推理的活，比如读完一份长文档再给出一整套判断，或者跨几十份材料写分析报告。

所以「开源差距拉大」这个结论，用在通用能力上没错，用在具体场景上要打个折。你要的是把一万张单据变成表格，1.3B 够用了，而且是最好用的那个，因为它能装进你自己的机器。

对汕头潮州揭阳的小老板意味着什么

我们服务过的本地企业里，最常提的需求是同一句：资料不能出内网。这句话在玩具、陶瓷、外贸这些行业特别硬，因为图纸、客户资料、报价单都有商业敏感度。

本地部署大模型真正的价值就在这里。数据不出门，模型跑在自己的机器上，成本是电费加一次性硬件投入，而不是每次调用都付钱。

做本地部署大模型之前，还有一件事要先想清楚：这台机器以后谁管。

但也别把它当银弹。我们做过一次部署，最大的坑不是模型，是数据。三年里散在十几个人的电脑上、微信聊天记录里、纸质单据上的东西，喂给模型之前要先整理，这一部分工作量比装模型本身大得多。

另外一个常见误区是拿部署当战略。模型装上去了，用的人还是不会用，这件事我们写过，参考 系统上线培训，讲三遍还是有人不会。部署完之后的日常维护，也是一笔要提前算的账，见 系统上线那晚，我们守到凌晨三点。

本地部署大模型的账，一般按硬件配置和部署工作量来算，几千到几万都可能。这只是大致区间，具体费用要根据你的实际需求评估，先出需求清单或方案，再给明细报价。

本地化部署这条路，适合的是数据敏感、场景固定、量够大的企业。反过来说，一次性的活、量很小的活，买 API 更划算。想聊清楚你的场景能不能走通，可以打 13829578822，微信同号。