Asistanlar

OpenAI tarafından sunulan Assistants API için özel bir endpoint bulunmaktadır.
Assistants API, kod yorumlayıcı, dosyalardan bilgi edinme ve fonksiyon yürütme gibi işlevler sunarak AI asistanları oluşturmayı sağlar.
- Bu özelliğin nasıl çalıştığı ve neler yapabildiği hakkında derinlemesine bilgi için buradan dokümantasyonu okuyun.
Normal OpenAI API kullanımında olduğu gibi, bir anahtar almak için https://platform.openai.com/account/api-keys adresine gidin.
Aşağıdaki ortam değişkenini anahtarınızla ayarlamanız gerekecek veya kullanıcıların kendi anahtarlarını sağlamaları için bunu user_provided olarak ayarlayabilirsiniz.

ASSISTANTS_API_KEY=your-key

ASSISTANTS_MODELS ile hangi modellerin kullanılabilir olmasını istediğinizi belirleyebilirsiniz; aksi takdirde, OpenAI'dan getirilen modeller listesi kullanılacaktır (yalnızca Assistants API ile uyumlu modeller gösterilecektir).

ASSISTANTS_MODELS=gpt-3.5-turbo-0125,gpt-3.5-turbo-16k-0613,gpt-3.5-turbo-16k,gpt-3.5-turbo,gpt-4,gpt-4-0314,gpt-4-32k-0314,gpt-4-0613,gpt-3.5-turbo-0613,gpt-3.5-turbo-1106,gpt-4-0125-preview,gpt-4-turbo-preview,gpt-4-1106-preview

Gerekirse, OPENAI_REVERSE_PROXY karşılığına benzer şekilde, ASSISTANTS_BASE_URL ile resmi olan yerine alternatif bir temel URL de ayarlayabilirsiniz.

ASSISTANTS_BASE_URL=http://your-alt-baseURL:3080/

İhtiyaçlarınıza bağlı olarak, asistan oluşturucu arayüzünü devre dışı bırakmak gibi, librechat.yaml özel yapılandırma dosyası aracılığıyla erişilebilen ek ve isteğe bağlı yapılandırmalar mevcuttur:
- Asistanlar için oluşturucu arayüzünün görünürlüğünü ve kullanımını kontrol edin. Daha fazla bilgi
- Asistan çalıştırma güncellemelerini veya asistan çalıştırma durumlarındaki değişiklikleri kontrol etmek için milisaniye cinsinden yoklama aralığını belirtin. Daha fazla bilgi
- Asistan çalıştırmaları için milisaniye cinsinden zaman aşımı süresini ayarlayın. Toplam çalıştırma süresini sınırlayarak sistem yükünü yönetmeye yardımcı olur. Daha fazla bilgi
- Hangi asistan ID'lerinin desteklendiğini veya hariç tutulduğunu belirtin Daha fazla bilgi

Sıkı fonksiyon çağırma (Strict function calling)

LibreChat ile, actions için openapi spesifikasyonunda işlem düzeyinde 'x-strict': true bayrağını ekleyebilirsiniz. Bu, 'strict' modu etkinleştirilmiş fonksiyon çağrılarını otomatik olarak oluşturacaktır. Strict modun json'ın yalnızca kısmi bir alt kümesini desteklediğini unutmayın. Ayrıntılar için https://platform.openai.com/docs/guides/structured-outputs adresini okuyun.

Örneğin:

{
  "openapi": "3.1.0",
  "info": {
    "title": "Math.js API",
    "description": "API for performing mathematical operations, such as addition, subtraction, etc.",
    "version": "1.0.0"
  },
  "servers": [
    {
      "url": "https://api.mathjs.org/v4"
    }
  ],
  "paths": {
    "/": {
      "post": {
        "summary": "Evaluate a mathematical expression",
        "description": "Sends a mathematical expression in the request body to evaluate.",
"operationId": "math",
"x-strict": true,
"parameters": [
        "requestBody": {
          "required": true,
          "content": {
            "application/json": {
              "schema": {
                "type": "object",
                "properties": {
                  "expr": {
                    "type": "string",
                    "description": "The mathematical expression to evaluate (e.g., `2+3`)."
                  }
                },
                "required": ["expr"]
              }
            }
          }
        },
        "responses": {
          "200": {
            "description": "The result of the evaluated expression.",
            "content": {
              "application/json": {
                "schema": {
                  "type": "object",
                  "properties": {
                    "result": {
                      "type": "number",
                      "description": "The evaluated result of the expression."
                    }
                  }
                }
              }
            }
          },
          "400": {
            "description": "Invalid expression provided.",
            "content": {
              "application/json": {
                "schema": {
                  "type": "object",
                  "properties": {
                    "error": {
                      "type": "string",
                      "description": "Error message describing the invalid expression."
                    }
                  }
                }
              }
            }
          }
        }
      }
    }
  }
}

Notlar

Notlar:

Bu yazının yazıldığı sırada, yalnızca aşağıdaki modeller Retrieval özelliğini desteklemektedir:
- gpt-3.5-turbo-0125
- gpt-4-0125-preview
- gpt-4-turbo-preview
- gpt-4-1106-preview
- gpt-3.5-turbo-1106
Vision özelliği henüz desteklenmemektedir.
Daha önce ENDPOINTS değerini .env dosyanızda ayarladıysanız, assistants değerini eklemeniz gerekecektir.

Asistanlar

Sıkı fonksiyon çağırma (Strict function calling)

Bu sayfada