LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

APIpie

Configurer APIpie en tant qu'endpoint personnalisé dans LibreChat.

APIpie est un agrégateur qui expose des modèles provenant de nombreux fournisseurs via un point de terminaison unique compatible avec OpenAI.

Obtenir une clé API

Créez une clé depuis apipie.ai/dashboard/profile/api-keys et ajoutez-la à votre fichier .env :

APIPIE_API_KEY=your-api-key

Configuration

Ajoutez l'endpoint sous endpoints.custom dans votre librechat.yaml :

    - name: "APIpie"
      apiKey: "${APIPIE_API_KEY}"
      baseURL: "https://apipie.ai/v1/"
      models:
        default: [
          "gpt-4",
          "gpt-4-turbo",
          "gpt-3.5-turbo",
          "claude-3-opus",
          "claude-3-sonnet",
          "claude-3-haiku",
          "llama-3-70b-instruct",
          "llama-3-8b-instruct",
          "gemini-pro-1.5",
          "gemini-pro",
          "mistral-large",
          "mistral-medium",
          "mistral-small",
          "mistral-tiny",
          "mixtral-8x22b",
          ]
        fetch: false
      titleConvo: true
      titleModel: "claude-3-haiku"
      summarize: false
      summaryModel: "claude-3-haiku"
      dropParams: ["stream"]
      modelDisplayLabel: "APIpie"

Notes

  • La récupération automatique des modèles n'est pas prise en charge, donc fetch est défini sur false et la liste des modèles est définie en ligne. Utilisez le script ci-dessus pour régénérer la liste lorsque de nouveaux modèles sont ajoutés.
  • Les résultats de l'attribution de titres aux conversations peuvent être incohérents.
  • dropParams: ["stream"] supprime le paramètre stream, qui n'est pas pris en charge actuellement.

Que pensez-vous de ce guide ?

Modifier sur GitHub