Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Cloudflare Workers AI

Skonfiguruj Cloudflare Workers AI jako niestandardowy endpoint w LibreChat.

Cloudflare Workers AI uruchamia otwarte modele w sieci Cloudflare, a jego AI Gateway udostępnia endpoint zgodny z OpenAI, przypisany do Twojego konta i bramy.

Uzyskaj klucz API

Utwórz AI Gateway, postępując zgodnie z przewodnikiem konfiguracji AI Gateway, a następnie dodaj swoje dane uwierzytelniające do pliku .env:

CF_API_TOKEN=your-api-key
CF_ACCOUNT_ID=your-account-id
CF_GATEWAY_ID=your-gateway-id

Konfiguracja

Dodaj endpoint w sekcji endpoints.custom w pliku librechat.yaml. baseURL zawiera Twój identyfikator konta (account ID) oraz identyfikator bramy (gateway ID):

    - name: "Cloudflare Workers AI"
      apiKey: "${CF_API_TOKEN}"
      baseURL: "https://gateway.ai.cloudflare.com/v1/${CF_ACCOUNT_ID}/${CF_GATEWAY_ID}/workers-ai/v1"
      models:
        default: [
          "@cf/google/gemma-3-12b-it",
          "@cf/meta/llama-4-scout-17b-16e-instruct",
          "@cf/qwen/qwq-32b",
          "@cf/qwen/qwen2.5-coder-32b-instruct",
          "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
          "@cf/openai/gpt-oss-120b"
        ]
        fetch: false
      titleConvo: true
      titleModel: "@cf/google/gemma-3-12b-it"
      modelDisplayLabel: "Cloudflare AI"

Uwagi

  • Wykorzystuje to punkt końcowy zgodny z OpenAI usługi Workers AI. Przeglądaj dostępne modele w katalogu modeli Workers AI.
  • Modele @cf/openai/gpt-oss-* mogą nie działać z powodu niezgodności specyfikacji.
  • Nazwy zmiennych CF_API_TOKEN, CF_ACCOUNT_ID oraz CF_GATEWAY_ID można zmienić, o ile są one zgodne w plikach .env oraz librechat.yaml.

Jaka jest ta instrukcja?