기본 매개변수

참고

• 이 문서의 이 부분은 addParams와 dropParams의 기능을 이해하는 데 도움을 주기 위한 것입니다. LibreChat이 기본적으로 전송하는 매개변수와 그 값은 전역적으로 구성할 수 없으며, 단일 endpoint 내에서만 구성할 수 있습니다.

Custom endpoint는 OpenAI endpoint와 로직을 공유하므로, OpenAI API에 맞춰진 기본 매개변수를 사용합니다.

{
  "model": "your-selected-model",
  "user": "LibreChat_User_ID",
  "stream": true,
  "messages": [
    {
      "role": "user",
      "content": "hi how are you",
    },
  ],
}

분석

• model: 모델 목록에서 선택된 모델입니다.
• user: 최종 사용자를 나타내는 고유 식별자로, OpenAI가 남용을 모니터링하고 탐지하는 데 도움을 줄 수 있습니다.
• stream: 설정할 경우, ChatGPT와 같이 부분 메시지 델타가 전송됩니다. 그렇지 않으면 생성이 완료된 후에만 결과를 확인할 수 있습니다.
• messages: OpenAI 형식의 메시지; 프리셋을 통해 사용자 지정 이름을 지정할 경우 system 및 assistant 역할을 가진 메시지에 name 필드가 추가됩니다.

참고: max_tokens 필드는 사용 가능한 최대 토큰 양을 사용하도록 전송되지 않으며, 이는 OpenAI API의 기본 동작입니다. 일부 대체 API는 이 필드를 요구하거나, 기본값이 매우 낮게 설정되어 응답이 잘릴 수 있습니다. 이 경우 Custom Endpoint Object Structure에 표시된 대로 addParams 필드에 해당 값을 추가해야 합니다.