LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

APIpie

Configurar APIpie como un endpoint personalizado en LibreChat.

APIpie es un agregador que expone modelos de muchos proveedores a través de un único endpoint compatible con OpenAI.

Obtener una API key

Cree una clave desde apipie.ai/dashboard/profile/api-keys y agréguela a su archivo .env:

APIPIE_API_KEY=your-api-key

Configuración

Agregue el endpoint bajo endpoints.custom en su librechat.yaml:

    - name: "APIpie"
      apiKey: "${APIPIE_API_KEY}"
      baseURL: "https://apipie.ai/v1/"
      models:
        default: [
          "gpt-4",
          "gpt-4-turbo",
          "gpt-3.5-turbo",
          "claude-3-opus",
          "claude-3-sonnet",
          "claude-3-haiku",
          "llama-3-70b-instruct",
          "llama-3-8b-instruct",
          "gemini-pro-1.5",
          "gemini-pro",
          "mistral-large",
          "mistral-medium",
          "mistral-small",
          "mistral-tiny",
          "mixtral-8x22b",
          ]
        fetch: false
      titleConvo: true
      titleModel: "claude-3-haiku"
      summarize: false
      summaryModel: "claude-3-haiku"
      dropParams: ["stream"]
      modelDisplayLabel: "APIpie"

Notas

  • La obtención automática de modelos no es compatible, por lo que fetch se establece en false y la lista de modelos se define en línea. Utilice el script anterior para regenerar la lista cuando se añadan nuevos modelos.
  • Los resultados de los títulos de las conversaciones pueden ser inconsistentes.
  • dropParams: ["stream"] elimina el parámetro stream, el cual no es compatible actualmente.

¿Qué te parece esta guía?

Editar en GitHub