Cloudflare Workers AI

Cloudflare Workers AI chạy các mô hình mở trên mạng lưới của Cloudflare, và AI Gateway của nó cung cấp một endpoint tương thích với OpenAI được giới hạn trong tài khoản và gateway của bạn.

Nhận API key

Tạo một AI Gateway bằng cách làm theo hướng dẫn thiết lập AI Gateway, sau đó thêm thông tin xác thực của bạn vào tệp .env:

CF_API_TOKEN=your-api-key
CF_ACCOUNT_ID=your-account-id
CF_GATEWAY_ID=your-gateway-id

Cấu hình

Thêm endpoint vào dưới mục endpoints.custom trong tệp librechat.yaml của bạn. baseURL sẽ bao gồm ID tài khoản và ID gateway của bạn:

    - name: "Cloudflare Workers AI"
      apiKey: "${CF_API_TOKEN}"
      baseURL: "https://gateway.ai.cloudflare.com/v1/${CF_ACCOUNT_ID}/${CF_GATEWAY_ID}/workers-ai/v1"
      models:
        default: [
          "@cf/google/gemma-3-12b-it",
          "@cf/meta/llama-4-scout-17b-16e-instruct",
          "@cf/qwen/qwq-32b",
          "@cf/qwen/qwen2.5-coder-32b-instruct",
          "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
          "@cf/openai/gpt-oss-120b"
        ]
        fetch: false
      titleConvo: true
      titleModel: "@cf/google/gemma-3-12b-it"
      modelDisplayLabel: "Cloudflare AI"

Ghi chú

• Điều này sử dụng OpenAI-compatible endpoint của Workers AI. Duyệt qua các model khả dụng trong Workers AI model catalog.
• Các model @cf/openai/gpt-oss-* có thể không hoạt động do không tương thích với spec.
• Các tên biến CF_API_TOKEN, CF_ACCOUNT_ID và CF_GATEWAY_ID có thể được đổi tên miễn là chúng khớp nhau giữa tệp .env và librechat.yaml của bạn.