Helicone

Helicone là một AI gateway định tuyến các yêu cầu đến các mô hình từ OpenAI, Anthropic, Google, Meta, Mistral và các nhà cung cấp khác thông qua một endpoint tương thích với OpenAI duy nhất, với tính năng ghi nhật ký yêu cầu và phân tích mức sử dụng được tích hợp sẵn.

Nhận API key

Tạo một tài khoản tại helicone.ai và tạo khóa từ Settings → API Keys. Thêm khóa đó vào tệp .env của bạn:

HELICONE_KEY=your-api-key

Hãy đảm bảo tài khoản của bạn có đủ tín dụng (credits), nếu không các yêu cầu gửi đến model sẽ thất bại.

Cấu hình

Thêm endpoint vào dưới endpoints.custom trong tệp librechat.yaml của bạn:

    - name: "Helicone"
      apiKey: "${HELICONE_KEY}"
      baseURL: "https://ai-gateway.helicone.ai"
      headers:
        x-librechat-body-parentmessageid: "{{LIBRECHAT_BODY_PARENTMESSAGEID}}"
      models:
        default: ["gpt-4o-mini", "claude-4.5-sonnet", "llama-3.1-8b-instruct", "gemini-2.5-flash-lite"]
        fetch: true
      titleConvo: true
      titleModel: "gpt-4o-mini"
      modelDisplayLabel: "Helicone"
      iconURL: "https://marketing-assets-helicone.s3.us-west-2.amazonaws.com/helicone.png"

Ghi chú

• Với fetch: true, LibreChat sẽ tải toàn bộ danh sách model từ Helicone, vì vậy mảng default chỉ là lựa chọn ban đầu. Hãy duyệt qua tất cả các model có sẵn trong thư viện model của Helicone.
• Header x-librechat-body-parentmessageid truyền ID tin nhắn cha của mỗi yêu cầu tới Helicone để các bản ghi có thể được nhóm theo cuộc trò chuyện.
• Thiết lập giới hạn tốc độ, chính sách bộ nhớ đệm và xem xét mức sử dụng từ Helicone dashboard.