Cloudflare Workers AI

Cloudflare Workers AI esegue modelli aperti sulla rete di Cloudflare e il suo AI Gateway espone un endpoint compatibile con OpenAI limitato al tuo account e al tuo gateway.

Ottieni una API key

Crea un AI Gateway seguendo la guida alla configurazione di AI Gateway, quindi aggiungi le tue credenziali al file .env:

CF_API_TOKEN=your-api-key
CF_ACCOUNT_ID=your-account-id
CF_GATEWAY_ID=your-gateway-id

Configurazione

Aggiungi l'endpoint sotto endpoints.custom nel tuo librechat.yaml. Il baseURL incorpora il tuo ID account e il tuo ID gateway:

    - name: "Cloudflare Workers AI"
      apiKey: "${CF_API_TOKEN}"
      baseURL: "https://gateway.ai.cloudflare.com/v1/${CF_ACCOUNT_ID}/${CF_GATEWAY_ID}/workers-ai/v1"
      models:
        default: [
          "@cf/google/gemma-3-12b-it",
          "@cf/meta/llama-4-scout-17b-16e-instruct",
          "@cf/qwen/qwq-32b",
          "@cf/qwen/qwen2.5-coder-32b-instruct",
          "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
          "@cf/openai/gpt-oss-120b"
        ]
        fetch: false
      titleConvo: true
      titleModel: "@cf/google/gemma-3-12b-it"
      modelDisplayLabel: "Cloudflare AI"

Note

• Questo utilizza l' OpenAI-compatible endpoint di Workers AI. Sfoglia i modelli disponibili nel Workers AI model catalog.
• I modelli @cf/openai/gpt-oss-* potrebbero non funzionare a causa di un'incompatibilità con le Model Specs.
• I nomi delle variabili CF_API_TOKEN, CF_ACCOUNT_ID e CF_GATEWAY_ID possono essere rinominati, a condizione che corrispondano tra il tuo .env e il tuo librechat.yaml.