Cloudflare Workers AI

Cloudflare Workers AI draait open modellen op het netwerk van Cloudflare, en de AI Gateway stelt een OpenAI-compatibel endpoint beschikbaar dat is gekoppeld aan jouw account en gateway.

Een API-sleutel verkrijgen

Maak een AI Gateway aan door de AI Gateway setup guide te volgen en voeg vervolgens je inloggegevens toe aan je .env bestand:

CF_API_TOKEN=your-api-key
CF_ACCOUNT_ID=your-account-id
CF_GATEWAY_ID=your-gateway-id

Configuratie

Voeg het endpoint toe onder endpoints.custom in je librechat.yaml. De baseURL bevat je account-ID en gateway-ID:

    - name: "Cloudflare Workers AI"
      apiKey: "${CF_API_TOKEN}"
      baseURL: "https://gateway.ai.cloudflare.com/v1/${CF_ACCOUNT_ID}/${CF_GATEWAY_ID}/workers-ai/v1"
      models:
        default: [
          "@cf/google/gemma-3-12b-it",
          "@cf/meta/llama-4-scout-17b-16e-instruct",
          "@cf/qwen/qwq-32b",
          "@cf/qwen/qwen2.5-coder-32b-instruct",
          "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
          "@cf/openai/gpt-oss-120b"
        ]
        fetch: false
      titleConvo: true
      titleModel: "@cf/google/gemma-3-12b-it"
      modelDisplayLabel: "Cloudflare AI"

Opmerkingen

• Dit gebruikt het OpenAI-compatible endpoint van Workers AI. Bekijk de beschikbare modellen in de Workers AI model catalog.
• @cf/openai/gpt-oss-* modellen werken mogelijk niet vanwege incompatibiliteit met de specificaties.
• De variabelenamen CF_API_TOKEN, CF_ACCOUNT_ID en CF_GATEWAY_ID kunnen worden hernoemd, zolang ze overeenkomen tussen je .env en librechat.yaml.