Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack šŸŽ‰ Learn more
LibreChat

Cloudflare Workers AI

Configure o Cloudflare Workers AI como um endpoint personalizado no LibreChat.

O Cloudflare Workers AI executa modelos abertos na rede da Cloudflare, e seu AI Gateway expƵe um endpoint compatƭvel com OpenAI com escopo para sua conta e gateway.

Obtenha uma API key

Crie um AI Gateway seguindo o guia de configuração do AI Gateway, e então adicione suas credenciais ao seu arquivo .env:

CF_API_TOKEN=your-api-key
CF_ACCOUNT_ID=your-account-id
CF_GATEWAY_ID=your-gateway-id

Configuração

Adicione o endpoint em endpoints.custom no seu librechat.yaml. A baseURL incorpora seu ID de conta e ID de gateway:

    - name: "Cloudflare Workers AI"
      apiKey: "${CF_API_TOKEN}"
      baseURL: "https://gateway.ai.cloudflare.com/v1/${CF_ACCOUNT_ID}/${CF_GATEWAY_ID}/workers-ai/v1"
      models:
        default: [
          "@cf/google/gemma-3-12b-it",
          "@cf/meta/llama-4-scout-17b-16e-instruct",
          "@cf/qwen/qwq-32b",
          "@cf/qwen/qwen2.5-coder-32b-instruct",
          "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
          "@cf/openai/gpt-oss-120b"
        ]
        fetch: false
      titleConvo: true
      titleModel: "@cf/google/gemma-3-12b-it"
      modelDisplayLabel: "Cloudflare AI"

Notas

  • Isso utiliza o OpenAI-compatible endpoint do Workers AI. Navegue pelos modelos disponĆ­veis no Workers AI model catalog.
  • Os modelos @cf/openai/gpt-oss-* podem nĆ£o funcionar devido Ć  incompatibilidade de especificaƧƵes.
  • Os nomes das variĆ”veis CF_API_TOKEN, CF_ACCOUNT_ID e CF_GATEWAY_ID podem ser renomeados, desde que correspondam entre o seu .env e o librechat.yaml.

Como estĆ” este guia?