Cloudflare Workers AI

Cloudflare Workers AI ejecuta modelos abiertos en la red de Cloudflare, y su AI Gateway expone un endpoint compatible con OpenAI limitado a tu cuenta y gateway.

Obtener una API key

Cree una AI Gateway siguiendo la guía de configuración de AI Gateway, luego agregue sus credenciales a su archivo .env:

CF_API_TOKEN=your-api-key
CF_ACCOUNT_ID=your-account-id
CF_GATEWAY_ID=your-gateway-id

Configuración

Agregue el endpoint bajo endpoints.custom en su librechat.yaml. La baseURL incorpora su ID de cuenta y su ID de gateway:

    - name: "Cloudflare Workers AI"
      apiKey: "${CF_API_TOKEN}"
      baseURL: "https://gateway.ai.cloudflare.com/v1/${CF_ACCOUNT_ID}/${CF_GATEWAY_ID}/workers-ai/v1"
      models:
        default: [
          "@cf/google/gemma-3-12b-it",
          "@cf/meta/llama-4-scout-17b-16e-instruct",
          "@cf/qwen/qwq-32b",
          "@cf/qwen/qwen2.5-coder-32b-instruct",
          "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
          "@cf/openai/gpt-oss-120b"
        ]
        fetch: false
      titleConvo: true
      titleModel: "@cf/google/gemma-3-12b-it"
      modelDisplayLabel: "Cloudflare AI"

Notas

• Esto utiliza el OpenAI-compatible endpoint de Workers AI. Explora los modelos disponibles en el Workers AI model catalog.
• Los modelos @cf/openai/gpt-oss-* podrían no funcionar debido a una incompatibilidad de especificaciones.
• Los nombres de las variables CF_API_TOKEN, CF_ACCOUNT_ID y CF_GATEWAY_ID pueden renombrarse siempre y cuando coincidan entre tu .env y librechat.yaml.