Standardparameter

Hinweis

• Der Zweck dieses Teils der Dokumentation besteht darin, zu verstehen, was addParams und dropParams bewirken. Sie KÖNNEN die Parameter und deren Werte, die LibreChat standardmäßig sendet, nicht global konfigurieren; dies kann nur innerhalb eines einzelnen endpoint konfiguriert werden.

Benutzerdefinierte endpoints teilen sich die Logik mit dem OpenAI endpoint und verfügen daher über Standardparameter, die auf die OpenAI API zugeschnitten sind.

{
  "model": "your-selected-model",
  "user": "LibreChat_User_ID",
  "stream": true,
  "messages": [
    {
      "role": "user",
      "content": "hi how are you",
    },
  ],
}

Aufschlüsselung

• model: Das ausgewählte Modell aus der Liste der Modelle.
• user: Ein eindeutiger Identifikator, der Ihren Endbenutzer repräsentiert und OpenAI dabei helfen kann, Missbrauch zu überwachen und zu erkennen.
• stream: Falls aktiviert, werden partielle Nachrichtendeltas gesendet, ähnlich wie bei ChatGPT. Andernfalls ist die Generierung erst verfügbar, wenn sie abgeschlossen ist.
• messages: OpenAI-Format für Nachrichten; das Feld name wird Nachrichten mit system- und assistant-Rollen hinzugefügt, wenn ein benutzerdefinierter Name über ein Preset festgelegt wurde.

Hinweis: Das Feld max_tokens wird nicht gesendet, um die maximal verfügbare Token-Anzahl zu nutzen, was dem Standardverhalten der OpenAI API entspricht. Einige alternative APIs erfordern dieses Feld, oder es wird standardmäßig auf einen sehr niedrigen Wert gesetzt, wodurch Ihre Antworten möglicherweise abgeschnitten erscheinen; in diesem Fall sollten Sie es dem Feld addParams hinzufügen, wie in der Struktur des benutzerdefinierten Endpunkt-Objekts gezeigt.