LiteLLM Multi-Model API

LiteLLM Multi-Model API se ejecuta en local a partir de un paquete de Python publicado en PyPI: litellm-mcp, versión 1.0.2. Usa MCP mediante stdio, así que el cliente lo inicia como programa y se comunica con él a través de la entrada y salida estándar. Necesita Python; los clientes suelen iniciarlo con uvx (de uv) o tras pip install - el comando habitual es uvx litellm-mcp; la entrada indica python como entorno de ejecución. Lee estas variables de entorno: OPENAI_API_KEY (secreto), ANTHROPIC_API_KEY (secreto), LITELLM_API_BASE y LITELLM_API_KEY (secreto); hay que definirlas en la configuración del cliente para este servidor.

En el formato JSON mcpServers que leen muchos clientes MCP de escritorio y de editores de código, la entrada tiene este aspecto (marcadores de posición entre corchetes angulares):

{
  "mcpServers": {
    "litellm-mcp": {
      "command": "uvx",
      "args": [
        "litellm-mcp"
      ],
      "env": {
        "OPENAI_API_KEY": "<secreto>",
        "ANTHROPIC_API_KEY": "<secreto>",
        "LITELLM_API_BASE": "<valor>",
        "LITELLM_API_KEY": "<secreto>"
      }
    }
  }
}

Obtenido de la entrada del registro, sin probar aquí. Lo que hace el servidor, y en qué condiciones, lo determina su editor; conviene revisar su repositorio o sitio web antes de darle acceso a cuentas o archivos propios. Cómo añadir un servidor MCP a un asistente · Antes de conectar