用户头像
陈达美股投资
 · 上海  

通用大模型 vs 垂直领域「小模型+私有数据」的组合,谁更有 ROI 的优势?

目前大模型的生意模式的底层逻辑,在成本端,说白了就是给那几个 Hyperscalers(超大规模云厂商)交无底洞的算力费。模式不能算非常好,业务跑得再好,调用一次API 就被抽一次水,并没有所谓的规模效应可言。ROI从常识判断,也知道高不了。

相比而言,垂直小模型+私有数据至少可以算得过账的好生意。因为从成本的角度,你自己搞个几十亿参数的小模型做本地部署,微调和推理的 OpEx(运营成本),比直接调外部顶配大模型便宜70%-90%(当然小规模的前期投入成本,不可不察,搞砸了沉没成本很高)。在同样回报的情况下,ROI自然就高,虽然同样没有很强的规模效应,但成本可控,极低的试错成本和极短的投资回收期,这才是比较良性的生意模式之一。

归根结底,做企业和做二级市场一样,得看懂真正的护城河在哪,也就是说,整个链条里,谁在卡谁的脖子。比如长期积累的私有数据,就可以算是一个护城河;算力链,中短期内可以算一个;但没有差异化的公共API,就不是。不断迭代垂直小模型,把外部开支转化为企业不断增值的无形资产,这套商业逻辑相对比较自洽。

但最后还是要说一点,目前而言,现状来看,也就是五十步笑百步,钱难挣屎难吃,爆赚的仍然是达子之流。放眼长期,我相信模式会被优化,上游成本会得到更好的控制。

一点看法,不一定对。