사용자 지정 Endpoints

librechat.yaml을 사용하여 OpenRouter, Ollama, Anthropic 호환 게이트웨이와 같은 사용자 지정 AI 공급자를 LibreChat에 추가하세요

LibreChat은 OpenAI API 호환 서비스를 사용자 지정 endpoint로 지원합니다. 또한 provider: "anthropic"을 사용하여 Anthropic 호환 사용자 지정 endpoint도 지원합니다. librechat.yaml에서 endpoint를 구성하고, .env에 API 키를 저장하며, Docker 배포를 위해 docker-compose.override.yml을 통해 구성을 마운트합니다.

어떤 파일이 어떤 역할을 하나요?

Custom endpoint 설정에는 각각 고유한 역할을 하는 세 개의 파일이 포함됩니다:

librechat.yaml -- 사용자 지정 endpoint(이름, API URL, 모델, 표시 설정)를 정의합니다.
.env -- API 키와 같은 민감한 값을 저장합니다 (librechat.yaml에서 ${VAR_NAME} 구문을 사용하여 참조).
docker-compose.override.yml -- librechat.yaml을 Docker 컨테이너에 마운트합니다 (Docker 사용자 전용)

이 파일들이 어떻게 함께 작동하는지에 대한 전체적인 개요는 Configuration Overview를 참조하세요.

시작하기 전에

이 가이드는 LibreChat이 설치되어 실행 중이라고 가정합니다. 그렇지 않은 경우, 먼저 Docker setup을 완료하세요.

Step 1. librechat.yaml 마운트하기 (Docker 전용)

Docker 사용자는 컨테이너가 librechat.yaml을 읽을 수 있도록 볼륨으로 마운트해야 합니다. Docker 없이 LibreChat을 로컬에서 실행 중이라면 이 단계를 건너뛰십시오.

cp docker-compose.override.yml.example docker-compose.override.yml

docker-compose.override.yml 파일을 수정하고 볼륨 마운트의 주석 처리가 해제되어 있는지 확인하세요:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

더 알아보기: Docker Override Guide

2단계. librechat.yaml 구성하기

프로젝트 루트에 librechat.yaml 파일이 없다면 생성하고, 해당 파일에 endpoint 구성을 추가하세요. 자세한 설정 방법은 librechat.yaml 가이드를 참조하세요.

다음은 OpenRouter, Ollama 및 Anthropic 호환 게이트웨이를 사용한 예시입니다:

version: 1.3.13
cache: true
endpoints:
  custom:
    - name: 'OpenRouter'
      apiKey: '${OPENROUTER_KEY}'
      baseURL: 'https://openrouter.ai/api/v1'
      models:
        default: ['meta-llama/llama-3-70b-instruct']
        fetch: true
      titleConvo: true
      titleModel: 'meta-llama/llama-3-70b-instruct'
      dropParams: ['stop']
      modelDisplayLabel: 'OpenRouter'
    - name: 'Ollama'
      apiKey: 'ollama'
      baseURL: 'http://host.docker.internal:11434/v1/'
      models:
        default: ['llama3:latest', 'command-r', 'mixtral', 'phi3']
        fetch: true
      titleConvo: true
      titleModel: 'current_model'
    - name: 'Claude-Compatible'
      provider: 'anthropic'
      apiKey: '${ANTHROPIC_API_KEY}'
      baseURL: 'https://api.anthropic.com'
      headers:
        anthropic-version: '2023-06-01'
      models:
        default: ['claude-sonnet-4-5']
        fetch: false
      titleConvo: true
      titleModel: 'claude-sonnet-4-5'

AI Endpoints 섹션에서 호환되는 모든 제공업체를 살펴보세요. 전체 필드 참조는 Custom Endpoint Object Structure를 확인하세요.

Anthropic 호환 endpoint

provider: "anthropic"은 Anthropic Messages API를 기본적으로 지원하는 엔드포인트에만 사용하세요. Anthropic 모델을 단순히 노출하는 OpenAI 호환 게이트웨이의 경우, provider를 생략하고 일반적인 OpenAI 호환 커스텀 엔드포인트 형식을 사용하세요.

API 키 구성

사용자 지정 endpoint에서 API 키를 구성할 때, 세 가지 옵션이 있습니다:

환경 변수 (권장): apiKey: "${OPENROUTER_KEY}" -- .env에서 읽어옵니다.
User provided: apiKey: "user_provided" -- 사용자가 UI에서 자신의 키를 직접 입력합니다.
직접 값 입력 (권장하지 않음): apiKey: "sk-your-actual-key" -- 일반 텍스트로 저장됨

3단계. 환경 변수 설정

librechat.yaml에서 참조된 API 키를 .env 파일에 추가하세요:

OPENROUTER_KEY=your_openrouter_api_key

librechat.yaml의 각 ${VARIABLE_NAME}은 .env에 일치하는 항목이 있어야 합니다.

4단계. 재시작 및 확인

구성 파일을 편집한 후에는 변경 사항을 적용하기 위해 LibreChat을 다시 시작해야 합니다.

docker compose down && docker compose up -d

실행 중인 프로세스를 중단하고(Ctrl+C) 다시 시작하세요:

npm run backend

브라우저에서 LibreChat을 엽니다. 사용자 지정 endpoint가 endpoint 선택 드롭다운에 나타나야 합니다.

엔드포인트가 보이지 않나요?

설정 오류가 있는지 서버 로그를 확인하세요:

docker compose logs api

일반적인 문제: YAML 구문 오류, 누락된 환경 변수, 또는 Docker에 librechat.yaml이 마운트되지 않은 경우. YAML Validator를 사용하여 YAML을 검증하세요.

OpenRouter가 여전히 표시되지 않음

OpenRouter의 경우, 특히 다음 세 파일 체인을 확인하세요:

.env 파일에 OPENROUTER_KEY=...가 있습니다.
librechat.yaml의 OpenRouter 커스텀 endpoint 아래에는 apiKey: "${OPENROUTER_KEY}"가 있습니다.
Docker 사용자는 docker-compose.override.yml에서 librechat.yaml을 마운트했습니다.

그런 다음 다음 명령어로 재시작하세요:

docker compose down && docker compose up -d

endpoint가 나타나지만 402 Payment Required를 반환한다면, 요청이 OpenRouter에 성공적으로 도달한 것이며, 문제는 일반적으로 OpenRouter의 계정 크레딧, 결제 또는 모델 가용성과 관련이 있습니다.

다음 단계

AI 엔드포인트

예제 구성과 함께 호환되는 모든 AI 제공업체 살펴보기

→

librechat.yaml 가이드

설정 파일에 대한 전체 설정 가이드 및 참조

→