Assistenten

De Assistants API by OpenAI heeft een toegewezen endpoint.
De Assistants API maakt het creëren van AI-assistenten mogelijk en biedt functionaliteiten zoals een code-interpreter, het ophalen van kennis uit bestanden en het uitvoeren van functies.
- Lees hier voor een diepgaande documentatie over de functie, hoe deze werkt en waartoe deze in staat is.
Net als bij de reguliere OpenAI API, ga je naar https://platform.openai.com/account/api-keys om een sleutel te verkrijgen.
Je zult de volgende omgevingsvariabele moeten instellen op jouw sleutel, of je kunt deze instellen op user_provided zodat gebruikers hun eigen sleutel kunnen opgeven.

ASSISTANTS_API_KEY=your-key

Je kunt bepalen welke modellen je beschikbaar wilt hebben met ASSISTANTS_MODELS; anders wordt de modellenlijst gebruikt die van OpenAI is opgehaald (alleen modellen die compatibel zijn met de Assistants API worden getoond).

ASSISTANTS_MODELS=gpt-3.5-turbo-0125,gpt-3.5-turbo-16k-0613,gpt-3.5-turbo-16k,gpt-3.5-turbo,gpt-4,gpt-4-0314,gpt-4-32k-0314,gpt-4-0613,gpt-3.5-turbo-0613,gpt-3.5-turbo-1106,gpt-4-0125-preview,gpt-4-turbo-preview,gpt-4-1106-preview

Indien nodig kun je ook een alternatieve base URL instellen in plaats van de officiële met ASSISTANTS_BASE_URL, wat vergelijkbaar is met de OpenAI-tegenhanger OPENAI_REVERSE_PROXY

ASSISTANTS_BASE_URL=http://your-alt-baseURL:3080/

Er is aanvullende, optionele configuratie, afhankelijk van uw behoeften, zoals het uitschakelen van de assistant builder UI, die beschikbaar is via het librechat.yaml custom config file:
- Beheer de zichtbaarheid en het gebruik van de builder-interface voor assistants. Meer info
- Specificeer het polling-interval in milliseconden voor het controleren van run-updates of wijzigingen in de status van assistant runs. Meer info
- Stel de time-outperiode in milliseconden in voor assistant runs. Helpt bij het beheren van de systeembelasting door de totale uitvoeringstijd van operaties te beperken. Meer info
- Specificeer welke assistant Ids worden ondersteund of uitgesloten Meer info

Strikte functie-aanroepen

Met LibreChat kun je de 'x-strict': true vlag toevoegen op operation-niveau in de openapi spec voor actions. Dit zal automatisch functie-aanroepen genereren met 'strict' modus ingeschakeld. Let op dat de strict modus slechts een gedeeltelijke subset van json ondersteunt. Lees https://platform.openai.com/docs/guides/structured-outputs voor details.

Bijvoorbeeld:

{
  "openapi": "3.1.0",
  "info": {
    "title": "Math.js API",
    "description": "API for performing mathematical operations, such as addition, subtraction, etc.",
    "version": "1.0.0"
  },
  "servers": [
    {
      "url": "https://api.mathjs.org/v4"
    }
  ],
  "paths": {
    "/": {
      "post": {
        "summary": "Evaluate a mathematical expression",
        "description": "Sends a mathematical expression in the request body to evaluate.",
"operationId": "math",
"x-strict": true,
"parameters": [
        "requestBody": {
          "required": true,
          "content": {
            "application/json": {
              "schema": {
                "type": "object",
                "properties": {
                  "expr": {
                    "type": "string",
                    "description": "The mathematical expression to evaluate (e.g., `2+3`)."
                  }
                },
                "required": ["expr"]
              }
            }
          }
        },
        "responses": {
          "200": {
            "description": "The result of the evaluated expression.",
            "content": {
              "application/json": {
                "schema": {
                  "type": "object",
                  "properties": {
                    "result": {
                      "type": "number",
                      "description": "The evaluated result of the expression."
                    }
                  }
                }
              }
            }
          },
          "400": {
            "description": "Invalid expression provided.",
            "content": {
              "application/json": {
                "schema": {
                  "type": "object",
                  "properties": {
                    "error": {
                      "type": "string",
                      "description": "Error message describing the invalid expression."
                    }
                  }
                }
              }
            }
          }
        }
      }
    }
  }
}

Opmerkingen

Opmerkingen:

Op het moment van schrijven ondersteunen alleen de volgende modellen de Retrieval functionaliteit:
- gpt-3.5-turbo-0125
- gpt-4-0125-preview
- gpt-4-turbo-preview
- gpt-4-1106-preview
- gpt-3.5-turbo-1106
Vision-functionaliteit wordt nog niet ondersteund.
Als je eerder de ENDPOINTS waarde in je .env bestand hebt ingesteld, moet je de waarde assistants toevoegen.

Assistenten

Strikte functie-aanroepen

Op deze pagina