LiteLLM Multi-Model API

LiteLLM Multi-Model API s’exécute en local depuis un paquet Python publié sur PyPI : litellm-mcp, version 1.0.2. Il communique en MCP via stdio : le client le lance comme un programme et échange avec lui par l’entrée et la sortie standard. Il nécessite Python ; les clients le lancent généralement avec uvx (fourni par uv) ou après pip install - la commande habituelle est uvx litellm-mcp ; l’entrée indique python comme environnement d’exécution. Il lit ces variables d’environnement : OPENAI_API_KEY (secret), ANTHROPIC_API_KEY (secret), LITELLM_API_BASE et LITELLM_API_KEY (secret) ; définissez-les dans la configuration du client pour ce serveur.

Au format JSON mcpServers, que lisent de nombreux clients MCP de bureau et éditeurs de code, l’entrée se présente ainsi (espaces réservés entre chevrons) :

{
  "mcpServers": {
    "litellm-mcp": {
      "command": "uvx",
      "args": [
        "litellm-mcp"
      ],
      "env": {
        "OPENAI_API_KEY": "<secret>",
        "ANTHROPIC_API_KEY": "<secret>",
        "LITELLM_API_BASE": "<valeur>",
        "LITELLM_API_KEY": "<secret>"
      }
    }
  }
}

Déduit de l’entrée du registre, non testé ici. Ce que fait le serveur, et à quelles conditions, relève de son éditeur ; consultez son dépôt ou son site web avant de lui donner accès à vos comptes ou à vos fichiers. Comment ajouter un serveur MCP à un assistant · Avant de connecter un serveur