$恒玄科技(SH688608)$ 连恒玄这种企业都否定了端侧本地小模型推理,那这条路大概率是走不通的。
理由也充分,ai手机都推不起来,说明硬件是跟不上的。
此外龙虾出现实际上证伪了蒸馏模型,很多人新鲜过后就那样了,因为智慧不能满足需求,可能怎么也要完全版比如600b的模型了,那512GB内存对应10万以上的硬件。