边缘设备使用大模型推理,选模型瘦身还是云端计算?

J
AI+留学专家菊叔
朗读

如果是特定很特殊的业务,可以后训练和调参数,把参数跳到很小,利用用户端算力

不然就还是云端api

5g普及了,云端api也很快呀。

点击转发,手留余香