Cloudflare Workers AI

Cloudflare Workers AI führt offene Modelle im Netzwerk von Cloudflare aus, und das AI Gateway stellt einen OpenAI-kompatiblen endpoint bereit, der auf Ihr Konto und Ihr Gateway beschränkt ist.

Einen API-Schlüssel erhalten

Erstellen Sie ein AI Gateway, indem Sie der AI Gateway setup guide folgen, und fügen Sie dann Ihre Anmeldedaten zu Ihrer .env Datei hinzu:

CF_API_TOKEN=your-api-key
CF_ACCOUNT_ID=your-account-id
CF_GATEWAY_ID=your-gateway-id

Konfiguration

Fügen Sie den endpoint unter endpoints.custom in Ihrer librechat.yaml hinzu. Die baseURL enthält Ihre Account-ID und Gateway-ID:

    - name: "Cloudflare Workers AI"
      apiKey: "${CF_API_TOKEN}"
      baseURL: "https://gateway.ai.cloudflare.com/v1/${CF_ACCOUNT_ID}/${CF_GATEWAY_ID}/workers-ai/v1"
      models:
        default: [
          "@cf/google/gemma-3-12b-it",
          "@cf/meta/llama-4-scout-17b-16e-instruct",
          "@cf/qwen/qwq-32b",
          "@cf/qwen/qwen2.5-coder-32b-instruct",
          "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
          "@cf/openai/gpt-oss-120b"
        ]
        fetch: false
      titleConvo: true
      titleModel: "@cf/google/gemma-3-12b-it"
      modelDisplayLabel: "Cloudflare AI"

Hinweise

• Dies verwendet den OpenAI-compatible endpoint von Workers AI. Durchsuchen Sie die verfügbaren Modelle im Workers AI model catalog.
• @cf/openai/gpt-oss-* Modelle funktionieren möglicherweise aufgrund von Spezifikationsinkompatibilität nicht.
• Die Variablennamen CF_API_TOKEN, CF_ACCOUNT_ID und CF_GATEWAY_ID können umbenannt werden, solange sie in Ihrer .env und librechat.yaml übereinstimmen.