Parametri predefiniti

Nota

• Lo scopo di questa parte della documentazione è aiutare a comprendere cosa fanno addParams e dropParams. NON È POSSIBILE configurare globalmente i parametri e i loro valori che LibreChat invia per impostazione predefinita; ciò può essere configurato solo all'interno di un singolo endpoint.

Gli endpoint personalizzati condividono la logica con l'endpoint OpenAI e, di conseguenza, hanno parametri predefiniti adattati all'API di OpenAI.

{
  "model": "your-selected-model",
  "user": "LibreChat_User_ID",
  "stream": true,
  "messages": [
    {
      "role": "user",
      "content": "hi how are you",
    },
  ],
}

Analisi

• model: Il modello selezionato dall'elenco dei modelli.
• user: Un identificatore univoco che rappresenta il tuo utente finale, che può aiutare OpenAI a monitorare e rilevare abusi.
• stream: Se impostato, i delta parziali del messaggio verranno inviati, come in ChatGPT. Altrimenti, la generazione sarà disponibile solo al completamento.
• messages: formato OpenAI per i messaggi; il campo name viene aggiunto ai messaggi con ruoli system e assistant quando viene specificato un nome personalizzato tramite preset.

Nota: Il campo max_tokens non viene inviato per utilizzare la quantità massima di token disponibili, che è il comportamento predefinito dell'API OpenAI. Alcune API alternative richiedono questo campo, oppure potrebbero impostarlo su un valore predefinito molto basso causando il troncamento delle risposte; in questo caso, dovresti aggiungerlo al campo addParams come mostrato nella Struttura dell'oggetto endpoint personalizzato.