
软件恐怖事件:litellm PyPI 供应链攻击
软件恐怖事件:litellm PyPI 供应链攻击。 很多人多liteLLM不熟悉,但是大家应该知道,LLM是我们当前生产性使用的AI的主要模型架构,即所谓大语言模型(large language model)。 我们在使用AI大模型的时候,并不是安装软件,而是通过一个大模型供应商提供的接口(API)和自己的钥匙(key),来访问和与大模型交互。 而liteLLM则是一个大模型接口(API)的代理(proxy)或者说路由器(router)。你可以把openai,google,kimi,阿里,等各种大模型服务商的api都统一接入liteLLM,再由它提供一个单一的管理界面和中转。 …