Endpoints personalizados

Añada proveedores de IA personalizados como OpenRouter, Ollama y pasarelas compatibles con Anthropic a LibreChat usando librechat.yaml

LibreChat admite servicios compatibles con la API de OpenAI como endpoints personalizados. También admite endpoints personalizados compatibles con Anthropic con provider: "anthropic". Los endpoints se configuran en librechat.yaml, las claves de API se almacenan en .env y la configuración se monta a través de docker-compose.override.yml para implementaciones en Docker.

¿Qué archivo hace qué?

La configuración de un endpoint personalizado implica tres archivos, cada uno con una función específica:

librechat.yaml -- Define sus endpoints personalizados (nombre, URL de la API, modelos, ajustes de visualización)
.env -- Almacena valores sensibles como claves de API (referenciados desde librechat.yaml usando la sintaxis ${VAR_NAME})
docker-compose.override.yml -- Monta librechat.yaml en el contenedor de Docker (solo para usuarios de Docker)

Para obtener una visión general completa de cómo funcionan estos archivos en conjunto, consulte la Configuration Overview.

Antes de empezar

Esta guía asume que tienes LibreChat instalado y en funcionamiento. Si no es así, completa primero la configuración de Docker.

Paso 1. Montar librechat.yaml (Solo Docker)

Los usuarios de Docker necesitan montar librechat.yaml como un volumen para que el contenedor pueda leerlo. Omita este paso si está ejecutando LibreChat localmente sin Docker.

cp docker-compose.override.yml.example docker-compose.override.yml

Edite docker-compose.override.yml y asegúrese de que el montaje del volumen no esté comentado:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

Más información: Guía de anulación de Docker

Paso 2. Configurar librechat.yaml

Cree un archivo librechat.yaml en la raíz del proyecto (si no existe) y añada su configuración de endpoint. Consulte la guía de librechat.yaml para obtener instrucciones de configuración detalladas.

Aquí hay un ejemplo con OpenRouter, Ollama y una pasarela compatible con Anthropic:

version: 1.3.13
cache: true
endpoints:
  custom:
    - name: 'OpenRouter'
      apiKey: '${OPENROUTER_KEY}'
      baseURL: 'https://openrouter.ai/api/v1'
      models:
        default: ['meta-llama/llama-3-70b-instruct']
        fetch: true
      titleConvo: true
      titleModel: 'meta-llama/llama-3-70b-instruct'
      dropParams: ['stop']
      modelDisplayLabel: 'OpenRouter'
    - name: 'Ollama'
      apiKey: 'ollama'
      baseURL: 'http://host.docker.internal:11434/v1/'
      models:
        default: ['llama3:latest', 'command-r', 'mixtral', 'phi3']
        fetch: true
      titleConvo: true
      titleModel: 'current_model'
    - name: 'Claude-Compatible'
      provider: 'anthropic'
      apiKey: '${ANTHROPIC_API_KEY}'
      baseURL: 'https://api.anthropic.com'
      headers:
        anthropic-version: '2023-06-01'
      models:
        default: ['claude-sonnet-4-5']
        fetch: false
      titleConvo: true
      titleModel: 'claude-sonnet-4-5'

Explore todos los proveedores compatibles en la sección de AI Endpoints. Para obtener la referencia completa de los campos, consulte Custom Endpoint Object Structure.

Endpoints compatibles con Anthropic

Utilice provider: "anthropic" solo para endpoints que utilicen la API nativa de Anthropic Messages. Para gateways compatibles con OpenAI que simplemente exponen modelos de Anthropic, omita provider y utilice la estructura de endpoint personalizado compatible con OpenAI estándar.

Configuración de la API Key

Al configurar claves de API en endpoints personalizados, tienes tres opciones:

Variable de entorno (recomendado): apiKey: "${OPENROUTER_KEY}" -- lee desde .env
User provided: apiKey: "user_provided" -- los usuarios ingresan su propia clave en la interfaz de usuario
Valor directo (no recomendado): apiKey: "sk-your-actual-key" -- almacenado en texto plano

Paso 3. Configurar variables de entorno

Agregue las claves de API referenciadas en su librechat.yaml al archivo .env:

OPENROUTER_KEY=your_openrouter_api_key

Cada ${VARIABLE_NAME} en librechat.yaml debe tener una entrada correspondiente en .env.

Paso 4. Reiniciar y verificar

Después de editar los archivos de configuración, debes reiniciar LibreChat para que los cambios surtan efecto.

docker compose down && docker compose up -d

Abre LibreChat en tu navegador. Tus endpoints personalizados deberían aparecer en el menú desplegable del selector de endpoint.

¿No ves tu endpoint?

Compruebe los registros del servidor en busca de errores de configuración:

docker compose logs api

Problemas comunes: errores de sintaxis YAML, variables de entorno faltantes o que librechat.yaml no esté montado en Docker. Valida tu YAML con el YAML Validator.

OpenRouter aún no aparece

Para OpenRouter específicamente, verifique la cadena de tres archivos:

.env tiene OPENROUTER_KEY=...
librechat.yaml tiene apiKey: "${OPENROUTER_KEY}" bajo el endpoint personalizado de OpenRouter
Los usuarios de Docker montaron librechat.yaml en docker-compose.override.yml

Luego reinicie con:

docker compose down && docker compose up -d

Si el endpoint aparece pero devuelve 402 Payment Required, la solicitud llegó a OpenRouter correctamente y el problema suele estar relacionado con los créditos de la cuenta, la facturación o la disponibilidad del modelo en OpenRouter.

Próximos pasos

Endpoints de IA

Explora todos los proveedores de IA compatibles con configuraciones de ejemplo

→

Guía de librechat.yaml

Guía de configuración completa y referencia para el archivo de configuración

→