首页 / 活动方案 / FastAdmin 定制开发 / 正文
中国信通院十月底那份报告里有个数字:国内大模型的归一化均价,从6.8元涨到13.46元。
同一份报告里,海外今年新发模型的均价约117.8元,还是国内的八倍多。
过去两年我们跟老板聊AI,开口就是「会越来越便宜」。这句话现在得改。
报告里还有两个数字:吞吐从每秒38个词元涨到78个,首词时延从0.78秒拉长到1.26秒。
模型更快了,但第一句话出来得更慢,单价还翻了倍。厂家的算力成本压不住,涨价比降本先到。

我见过不少汕头、潮州的老板,做AI功能时按「一次调用几分钱」算预算:自动回复、图片识别、文案生成。
单价翻倍,这类功能的年成本跟着翻。用户越多,账单涨得越快。
按调用付费的AI,本质是流量生意,用的人越多,成本越高。这一条和传统软件完全不同。

十月还有另一件事:开源模型还在往前跑,三万亿参数级别的模型已经能下载,几百克的小盒子也能跑122B。
对用量稳定的公司,自己部署一台机器的账开始好算:一次性投入,之后是电费和维护,不看调用次数。
前提是你真的用得多。一个月几千次调用,买机器是浪费。
具体多少钱要看模型大小、并发、要不要做数据隔离,这只是大致区间,具体费用要根据你的实际需求评估,先出方案再报明细。

我们的建议很朴素:先统计自己一个月调用多少次,再决定租还是买。这个数字多数公司都没算过。
还有个容易被忽略的成本:人。模型换了,提示词要重调,接口要重接,这部分钱没人写进预算。
我见过一个客户,一年换了三次模型,每次返工两周。省下来的调用费,全贴进人工了。
这笔账不难算,难的是承认当初的预算表压根没算过这一栏。
先算清楚用量,再谈方案,顺序别反。
用量算清楚,答案自己就出来了。
本地部署和系统定制这两块我们都在做,规模不大也能接。之前写过三百克的盒子跑122B和中小企业要不要自己装一套。想聊的可以打 13829578822,微信同号。
星扬网络科技专注小程序/系统定制开发与线下互动硬件方案,已服务 200+ 企业与机构。
咨询热线:13829578822(微信同号) · 邮箱:vancezhong@foxmail.com