Cloudflare Workers AI

Cloudflare Workers AI menjalankan model terbuka di jaringan Cloudflare, dan AI Gateway-nya mengekspos endpoint yang kompatibel dengan OpenAI yang dicakup ke akun dan gateway Anda.

Dapatkan API key

Buat AI Gateway dengan mengikuti panduan pengaturan AI Gateway, lalu tambahkan kredensial Anda ke file .env Anda:

CF_API_TOKEN=your-api-key
CF_ACCOUNT_ID=your-account-id
CF_GATEWAY_ID=your-gateway-id

Konfigurasi

Tambahkan endpoint di bawah endpoints.custom dalam librechat.yaml Anda. baseURL menyematkan ID akun dan ID gateway Anda:

    - name: "Cloudflare Workers AI"
      apiKey: "${CF_API_TOKEN}"
      baseURL: "https://gateway.ai.cloudflare.com/v1/${CF_ACCOUNT_ID}/${CF_GATEWAY_ID}/workers-ai/v1"
      models:
        default: [
          "@cf/google/gemma-3-12b-it",
          "@cf/meta/llama-4-scout-17b-16e-instruct",
          "@cf/qwen/qwq-32b",
          "@cf/qwen/qwen2.5-coder-32b-instruct",
          "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
          "@cf/openai/gpt-oss-120b"
        ]
        fetch: false
      titleConvo: true
      titleModel: "@cf/google/gemma-3-12b-it"
      modelDisplayLabel: "Cloudflare AI"

Catatan

Ini menggunakan OpenAI-compatible endpoint dari Workers AI. Telusuri model yang tersedia di Workers AI model catalog.
Model @cf/openai/gpt-oss-* mungkin tidak berfungsi karena ketidakcocokan spesifikasi.
Nama variabel CF_API_TOKEN, CF_ACCOUNT_ID, dan CF_GATEWAY_ID dapat diubah namanya selama nama tersebut cocok antara .env dan librechat.yaml Anda.

Cloudflare Workers AI

Dapatkan API key

Konfigurasi

Catatan

Di halaman ini