LiteLLM Multi-Model API

LiteLLM Multi-Model API wird lokal ausgeführt, und zwar aus einem auf PyPI veröffentlichten Python-Paket: litellm-mcp, Version 1.0.2. Der Server spricht MCP über stdio: Der Client startet ihn als Programm und kommuniziert mit ihm über Standardein- und -ausgabe. Benötigt wird Python; Clients starten das Paket meist mit uvx (aus uv) oder nach pip install - der übliche Befehl lautet uvx litellm-mcp; der Eintrag nennt python als Laufzeitumgebung. Der Server liest diese Umgebungsvariablen: OPENAI_API_KEY (geheim), ANTHROPIC_API_KEY (geheim), LITELLM_API_BASE und LITELLM_API_KEY (geheim); legen Sie sie in der Konfiguration des Clients für diesen Server fest.

Im JSON-Format mcpServers, das viele MCP-Clients für Desktop und Editor lesen, sieht der Eintrag so aus (Platzhalter in spitzen Klammern):

{
  "mcpServers": {
    "litellm-mcp": {
      "command": "uvx",
      "args": [
        "litellm-mcp"
      ],
      "env": {
        "OPENAI_API_KEY": "<geheim>",
        "ANTHROPIC_API_KEY": "<geheim>",
        "LITELLM_API_BASE": "<wert>",
        "LITELLM_API_KEY": "<geheim>"
      }
    }
  }
}

Abgeleitet aus dem Registry-Eintrag, hier nicht getestet. Was der Server tut und zu welchen Bedingungen, legt sein Herausgeber fest; prüfen Sie sein Repository oder seine Website, bevor Sie ihm Zugriff auf Ihre Konten oder Dateien geben. So fügen Sie einem Assistenten einen MCP-Server hinzu · Vor dem Verbinden