用户头像
汤诗语
 · 上海  

有个问题请教大家,近期看到一个说法,用户问AI一个问题,AI就要消耗多少钱的推理成本,对于AI企业的负担很大,所以腾讯股东可以成天去问千问问题,浪费阿里的成本,反之亦然。但就个人经验,我问AI的绝大多数问题都是日常问题,比如大盘鸡怎么做,护照到期后怎么更新之类的问题,这些问题很显然早有其他人问过,按理说AI直接从之前的回答里找即可(比如cache里?),无需重复推理吧?我相信90%甚至95%的问题都是这类问题,这些应该不需要消耗推理成本吧?应该只有辅助写程序、辅助生成绘画、视频之类的用途需要消耗推理成本吧?