Domyślne parametry

Uwaga

• Celem tej części dokumentacji jest pomoc w zrozumieniu, do czego służą addParams oraz dropParams. NIE MOŻESZ globalnie skonfigurować parametrów i ich wartości, które LibreChat wysyła domyślnie; można to zrobić wyłącznie w obrębie pojedynczego endpoint.

Niestandardowe endpointy współdzielą logikę z endpointem OpenAI, dlatego posiadają domyślne parametry dostosowane do API OpenAI.

{
  "model": "your-selected-model",
  "user": "LibreChat_User_ID",
  "stream": true,
  "messages": [
    {
      "role": "user",
      "content": "hi how are you",
    },
  ],
}

Podział

• model: Wybrany model z listy modeli.
• user: Unikalny identyfikator reprezentujący użytkownika końcowego, który może pomóc OpenAI w monitorowaniu i wykrywaniu nadużyć.
• stream: Jeśli ustawione, częściowe delty wiadomości będą wysyłane, tak jak w ChatGPT. W przeciwnym razie generowanie będzie dostępne dopiero po zakończeniu.
• messages: format OpenAI dla wiadomości; pole name jest dodawane do wiadomości z rolami system i assistant, gdy niestandardowa nazwa jest określona za pomocą presetu.

Uwaga: Pole max_tokens nie jest wysyłane w celu wykorzystania maksymalnej dostępnej liczby tokenów, co jest domyślnym zachowaniem API OpenAI. Niektóre alternatywne API wymagają tego pola, w przeciwnym razie mogą przyjąć bardzo niską wartość domyślną, przez co odpowiedzi mogą wydawać się ucięte; w takim przypadku należy dodać je do pola addParams, jak pokazano w Strukturze obiektu niestandardowego punktu końcowego.