Helicone

LibreChat에서 Helicone의 AI Gateway를 사용자 지정 endpoint로 구성하세요.

Helicone은 OpenAI, Anthropic, Google, Meta, Mistral 및 기타 제공업체의 모델에 대한 요청을 단일 OpenAI 호환 endpoint를 통해 라우팅하는 AI 게이트웨이로, 요청 로깅 및 사용량 분석 기능이 내장되어 있습니다.

API 키 발급받기

helicone.ai에서 계정을 생성하고 Settings → API Keys에서 키를 생성하세요. 해당 키를 .env 파일에 추가하세요:

HELICONE_KEY=your-api-key

계정에 크레딧이 있는지 확인하세요. 그렇지 않으면 모델 요청이 실패합니다.

구성

librechat.yaml의 endpoints.custom 아래에 해당 endpoint를 추가하세요:

    - name: "Helicone"
      apiKey: "${HELICONE_KEY}"
      baseURL: "https://ai-gateway.helicone.ai"
      headers:
        x-librechat-body-parentmessageid: "{{LIBRECHAT_BODY_PARENTMESSAGEID}}"
      models:
        default: ["gpt-4o-mini", "claude-4.5-sonnet", "llama-3.1-8b-instruct", "gemini-2.5-flash-lite"]
        fetch: true
      titleConvo: true
      titleModel: "gpt-4o-mini"
      modelDisplayLabel: "Helicone"
      iconURL: "https://marketing-assets-helicone.s3.us-west-2.amazonaws.com/helicone.png"

참고 사항

fetch: true를 설정하면 LibreChat은 Helicone에서 전체 모델 목록을 불러오므로, default 배열은 초기 선택 항목일 뿐입니다. Helicone model library에서 사용 가능한 모든 모델을 살펴보세요.
x-librechat-body-parentmessageid 헤더는 각 요청의 부모 메시지 ID를 Helicone으로 전달하여 로그가 대화별로 그룹화될 수 있도록 합니다.
Helicone 대시보드에서 속도 제한(rate limits), 캐싱 정책을 설정하고 사용량을 검토하세요.