Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

APIpie

Configura APIpie come endpoint personalizzato in LibreChat.

APIpie è un aggregatore che espone modelli da molti provider attraverso un singolo endpoint compatibile con OpenAI.

Ottieni una API key

Crea una chiave da apipie.ai/dashboard/profile/api-keys e aggiungila al tuo file .env:

APIPIE_API_KEY=your-api-key

Configurazione

Aggiungi l'endpoint sotto endpoints.custom nel tuo librechat.yaml:

    - name: "APIpie"
      apiKey: "${APIPIE_API_KEY}"
      baseURL: "https://apipie.ai/v1/"
      models:
        default: [
          "gpt-4",
          "gpt-4-turbo",
          "gpt-3.5-turbo",
          "claude-3-opus",
          "claude-3-sonnet",
          "claude-3-haiku",
          "llama-3-70b-instruct",
          "llama-3-8b-instruct",
          "gemini-pro-1.5",
          "gemini-pro",
          "mistral-large",
          "mistral-medium",
          "mistral-small",
          "mistral-tiny",
          "mixtral-8x22b",
          ]
        fetch: false
      titleConvo: true
      titleModel: "claude-3-haiku"
      summarize: false
      summaryModel: "claude-3-haiku"
      dropParams: ["stream"]
      modelDisplayLabel: "APIpie"

Note

  • Il recupero automatico dei modelli non è supportato, quindi fetch è impostato su false e l'elenco dei modelli è definito inline. Utilizza lo script sopra per rigenerare l'elenco quando vengono aggiunti nuovi modelli.
  • I risultati della titolazione delle conversazioni possono essere incoerenti.
  • dropParams: ["stream"] rimuove il parametro stream, che al momento non è supportato.

Com’è questa guida?