Mistral 放出万亿参数权重，汕头老板先别看显卡

10 月 29 日晚上，法国那家公司 Mistral 把自研旗舰模型 Mistral Large 4 的权重放了出来，这个模型后来被大家叫作 Le Chonk。1 万亿参数，490 亿激活，100 万词元上下文，Hugging Face 上可以直接下，vLLM 当天就支持了。

Mistral Large 4 的定价也一起放了出来：每百万输入词元 0.70 美元，缓存输入 0.07 美元，输出 2.10 美元。

消息传到我们这儿，汕头有客户问：这么大的模型，我是不是得买八张卡才跑得起来？

这个模型，汕头老板暂时用不上

先说结论。开源权重这件事，听着是给小公司的机会，实际上八成用不上。

那 1.1 TB 的显存要求，NVFP4 量化版也要 610 GB。按八张 H200 起步的配置，机器加机箱加电费，这是一间小公司几个月的利润。Mistral 自己给的服务商方案也是八卡起步。

更关键的是，Mistral Large 4 的强项在代码和网络安全推理。写代码这件事，汕头小公司的需求没那么强。真正要花钱的地方——报价、跟单、客服话术——用不着 trillion 级别的模型。

所以我的判断是：这一轮开源大模型的热潮里，汕头潮州揭阳的小老板不该关注「又出了一个更强的模型」，而该关注「同一个模型，推理成本又降了一档」。

真正有用的数字，是那行价格

这个模型提供三种推理深度，让你自己权衡成本和效果：low、medium、high。Mistral 说这一版的推理效率提升明显，同等效果下成本更低。

翻译成人话就是：以前要跑高档才能得到的答案，现在跑中档就行，省下来的那部分是实打实的钱。

这条逻辑跟模型是谁发布的没关系。上个月 DeepSeek 把价格砍了七成，我们写过 DeepSeek 把价格砍了七成，汕头老板该动了吗；上上个月调用价翻倍，我们也写过 大模型调用价翻倍，谁的账最疼。

一个月里，降价和涨价都来了一轮。这说明什么？说明单价不是稳定的，模型这一层的变化比老板的采购周期快得多。

所以别在模型上做年度规划

能给老板的实用建议只有一条：把模型当成可以随时换的水电，不要当成资产。

具体说三件事。

第一，别把业务逻辑绑死在任何一个模型的接口上。我们给客户做系统的时候，中间层一直是可替换的，换模型只改配置不改业务。这条看似麻烦，但一年后你会感谢自己。

第二，评估模型别用跑分榜，用你自己的十道题。这道题是「用真实的客户问法问它」，看答案对不对。这件事我们写过 智能体选型，别从哪个模型最强开始。

第三，如果数据不能出门，那就本地部署。这条更实在，我们写过 1.3B 模型开源了，小老板该关心的不是参数——1.3B 那个模型，一个小主机就够跑，比万亿参数务实得多。

本地部署这件事，10 月底更值得想了

还有一个背景要提。最近半年，模型厂商换了一轮，接口调过几次价，也有服务从某个云上下架过。这对大老板是资本话题，对小老板是一个很实际的问题：依赖外部服务，随时可能变。

不是说会影响到你。是要意识到，一份把公司客户名单、价格体系都喂给外部服务的流程，不是一个能长期放心的选择。

汕头有家做外贸的公司，去年把跟单文案的流程接进了一个外部模型，最近开始问我们能不能改成本地跑。他们家一年在这上面花的钱其实不算多，七八千块一年。改本地之后一次性的硬件投入倒是更高。

值不值这个账，我给的判断标准是：数据敏感到什么程度、调用量多大、有没有合规要求。这三条里有两条命中，本地化就该认真算一次。具体怎么算，写在 大模型私有化部署，什么情况下才值得做 里。

最后一句：这一轮开源榜单又长了一截，别把它当成你必须赶上的进度条。你店里那个「回头发消息说能不能便宜点」的活，用什么模型都能干。

想聊的可以打 13829578822，微信同号。