Cloudflare Workers AI

Konfigurieren Sie Cloudflare Workers AI als benutzerdefinierten endpoint in LibreChat.

Cloudflare Workers AI führt offene Modelle im Netzwerk von Cloudflare aus, und das AI Gateway stellt einen OpenAI-kompatiblen endpoint bereit, der auf Ihr Konto und Ihr Gateway beschränkt ist.

Einen API-Schlüssel erhalten

Erstellen Sie ein AI Gateway, indem Sie der AI Gateway setup guide folgen, und fügen Sie dann Ihre Anmeldedaten zu Ihrer .env Datei hinzu:

CF_API_TOKEN=your-api-key
CF_ACCOUNT_ID=your-account-id
CF_GATEWAY_ID=your-gateway-id

Konfiguration

Fügen Sie den endpoint unter endpoints.custom in Ihrer librechat.yaml hinzu. Die baseURL enthält Ihre Account-ID und Gateway-ID:

    - name: "Cloudflare Workers AI"
      apiKey: "${CF_API_TOKEN}"
      baseURL: "https://gateway.ai.cloudflare.com/v1/${CF_ACCOUNT_ID}/${CF_GATEWAY_ID}/workers-ai/v1"
      models:
        default: [
          "@cf/google/gemma-3-12b-it",
          "@cf/meta/llama-4-scout-17b-16e-instruct",
          "@cf/qwen/qwq-32b",
          "@cf/qwen/qwen2.5-coder-32b-instruct",
          "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
          "@cf/openai/gpt-oss-120b"
        ]
        fetch: false
      titleConvo: true
      titleModel: "@cf/google/gemma-3-12b-it"
      modelDisplayLabel: "Cloudflare AI"

Hinweise

Dies verwendet den OpenAI-compatible endpoint von Workers AI. Durchsuchen Sie die verfügbaren Modelle im Workers AI model catalog.
@cf/openai/gpt-oss-* Modelle funktionieren möglicherweise aufgrund von Spezifikationsinkompatibilität nicht.
Die Variablennamen CF_API_TOKEN, CF_ACCOUNT_ID und CF_GATEWAY_ID können umbenannt werden, solange sie in Ihrer .env und librechat.yaml übereinstimmen.