LiteLLM Multi-Model API

LiteLLM Multi-Model API רץ באופן מקומי מתוך חבילת Python שפורסמה ב-PyPI: litellm-mcp, גרסה 1.0.2. הוא משתמש ב-MCP על גבי stdio, ולכן הלקוח מפעיל אותו כתוכנה ומתקשר איתו דרך קלט ופלט סטנדרטיים. כדי להריץ אותו צריך Python; לקוחות מפעילים אותו בדרך כלל עם uvx (מתוך uv) או אחרי pip install - הפקודה המקובלת היא uvx litellm-mcp; הרשומה מציינת את python כסביבת הריצה. הוא קורא את משתני הסביבה האלה: OPENAI_API_KEY (סודי), ANTHROPIC_API_KEY (סודי), LITELLM_API_BASE ו-LITELLM_API_KEY (סודי); יש להגדיר אותם בתצורת הלקוח עבור השרת הזה.

בפורמט ה-JSON של mcpServers, שלקוחות MCP רבים לדסקטופ ולעורכי קוד קוראים, הרשומה נראית כך (מצייני מקום בסוגריים זוויתיים):

{
  "mcpServers": {
    "litellm-mcp": {
      "command": "uvx",
      "args": [
        "litellm-mcp"
      ],
      "env": {
        "OPENAI_API_KEY": "<סוד>",
        "ANTHROPIC_API_KEY": "<סוד>",
        "LITELLM_API_BASE": "<ערך>",
        "LITELLM_API_KEY": "<סוד>"
      }
    }
  }
}

נגזר מהרשומה במרשם, ולא נבדק כאן. מה השרת עושה, ובאילו תנאים, נקבע על ידי המפרסם שלו; כדאי לבדוק את מאגר הקוד או את האתר שלו לפני שנותנים לו גישה לחשבונות או לקבצים שלך. איך מוסיפים שרת MCP לעוזר AI · לפני שמתחברים