Assistenten

Die Assistants API by OpenAI verfügt über einen dedizierten endpoint.
Die Assistants API ermöglicht die Erstellung von KI-Assistenten und bietet Funktionen wie Code-Interpreter, Wissensabruf aus Dateien und Funktionsausführung.
- Lesen Sie hier für eine ausführliche Dokumentation über die Funktion, wie sie funktioniert und wozu sie fähig ist.
Wie bei der regulären OpenAI API, gehen Sie zu https://platform.openai.com/account/api-keys, um einen Schlüssel zu erhalten.
Sie müssen die folgende Umgebungsvariable auf Ihren Schlüssel setzen oder Sie können sie auf user_provided setzen, damit Benutzer ihre eigenen Schlüssel angeben können.

ASSISTANTS_API_KEY=your-key

Sie können mit ASSISTANTS_MODELS festlegen, welche Modelle verfügbar sein sollen; andernfalls wird die von OpenAI abgerufene Modellliste verwendet (es werden nur Modelle angezeigt, die mit der Assistants API kompatibel sind).

ASSISTANTS_MODELS=gpt-3.5-turbo-0125,gpt-3.5-turbo-16k-0613,gpt-3.5-turbo-16k,gpt-3.5-turbo,gpt-4,gpt-4-0314,gpt-4-32k-0314,gpt-4-0613,gpt-3.5-turbo-0613,gpt-3.5-turbo-1106,gpt-4-0125-preview,gpt-4-turbo-preview,gpt-4-1106-preview

Falls erforderlich, können Sie anstelle der offiziellen URL auch eine alternative Basis-URL mit ASSISTANTS_BASE_URL festlegen, was dem OpenAI-Gegenstück OPENAI_REVERSE_PROXY ähnelt.

ASSISTANTS_BASE_URL=http://your-alt-baseURL:3080/

Es gibt zusätzliche, optionale Konfigurationen, abhängig von Ihren Anforderungen, wie zum Beispiel das Deaktivieren der Assistant Builder UI, die über die librechat.yaml benutzerdefinierte Konfigurationsdatei verfügbar sind:
- Steuern Sie die Sichtbarkeit und Nutzung der Builder-Oberfläche für Assistants. Weitere Informationen
- Geben Sie das Abfrageintervall in Millisekunden an, um Aktualisierungen von Ausführungen oder Änderungen in den Status von Assistant-Ausführungen zu überprüfen. Weitere Informationen
- Legen Sie den Timeout-Zeitraum in Millisekunden für Assistant-Runs fest. Hilft bei der Verwaltung der Systemlast, indem die Gesamtdauer der Run-Operation begrenzt wird. Weitere Informationen
- Geben Sie an, welche Assistant-IDs unterstützt oder ausgeschlossen werden Weitere Informationen

Striktes Funktionsaufrufen

With librechat you can add add the 'x-strict': true flag at operation-level in the openapi spec for actions. This will automatically generate function calls with 'strict' mode enabled. Note that strict mode supports only a partial subset of json. Read https://platform.openai.com/docs/guides/structured-outputs for details.

Zum Beispiel:

{
  "openapi": "3.1.0",
  "info": {
    "title": "Math.js API",
    "description": "API for performing mathematical operations, such as addition, subtraction, etc.",
    "version": "1.0.0"
  },
  "servers": [
    {
      "url": "https://api.mathjs.org/v4"
    }
  ],
  "paths": {
    "/": {
      "post": {
        "summary": "Evaluate a mathematical expression",
        "description": "Sends a mathematical expression in the request body to evaluate.",
"operationId": "math",
"x-strict": true,
"parameters": [
        "requestBody": {
          "required": true,
          "content": {
            "application/json": {
              "schema": {
                "type": "object",
                "properties": {
                  "expr": {
                    "type": "string",
                    "description": "The mathematical expression to evaluate (e.g., `2+3`)."
                  }
                },
                "required": ["expr"]
              }
            }
          }
        },
        "responses": {
          "200": {
            "description": "The result of the evaluated expression.",
            "content": {
              "application/json": {
                "schema": {
                  "type": "object",
                  "properties": {
                    "result": {
                      "type": "number",
                      "description": "The evaluated result of the expression."
                    }
                  }
                }
              }
            }
          },
          "400": {
            "description": "Invalid expression provided.",
            "content": {
              "application/json": {
                "schema": {
                  "type": "object",
                  "properties": {
                    "error": {
                      "type": "string",
                      "description": "Error message describing the invalid expression."
                    }
                  }
                }
              }
            }
          }
        }
      }
    }
  }
}

Hinweise

Hinweise:

Zum Zeitpunkt der Erstellung dieses Dokuments unterstützen nur die folgenden Modelle die Retrieval-Funktion:
- gpt-3.5-turbo-0125
- gpt-4-0125-preview
- gpt-4-turbo-preview
- gpt-4-1106-preview
- gpt-3.5-turbo-1106
Die Vision-Funktion wird noch nicht unterstützt.
Wenn Sie zuvor den ENDPOINTS-Wert in Ihrer .env-Datei festgelegt haben, müssen Sie den Wert assistants hinzufügen.

Assistenten

Striktes Funktionsaufrufen

Auf dieser Seite