LibreChatTrợ lý
- Assistants API by OpenAI có một endpoint chuyên dụng.
- Assistants API cho phép tạo các trợ lý AI, cung cấp các chức năng như trình thông dịch mã (code interpreter), truy xuất kiến thức từ tệp tin và thực thi hàm (function execution).
- Đọc tại đây để xem tài liệu chuyên sâu về tính năng này, cách thức hoạt động và khả năng của nó.
- Giống như với OpenAI API thông thường, hãy truy cập https://platform.openai.com/account/api-keys để lấy khóa.
- Bạn sẽ cần đặt biến môi trường sau thành khóa của mình hoặc bạn có thể đặt nó thành
user_providedđể người dùng tự cung cấp khóa của riêng họ.
ASSISTANTS_API_KEY=your-key- Bạn có thể xác định những model nào bạn muốn khả dụng với
ASSISTANTS_MODELS; nếu không, danh sách model được lấy từ OpenAI sẽ được sử dụng (chỉ các model tương thích với Assistants API mới được hiển thị).
ASSISTANTS_MODELS=gpt-3.5-turbo-0125,gpt-3.5-turbo-16k-0613,gpt-3.5-turbo-16k,gpt-3.5-turbo,gpt-4,gpt-4-0314,gpt-4-32k-0314,gpt-4-0613,gpt-3.5-turbo-0613,gpt-3.5-turbo-1106,gpt-4-0125-preview,gpt-4-turbo-preview,gpt-4-1106-preview- Nếu cần thiết, bạn cũng có thể thiết lập một base URL thay thế thay vì URL chính thức với
ASSISTANTS_BASE_URL, tương tự như đối tácOPENAI_REVERSE_PROXYcủa OpenAI.
ASSISTANTS_BASE_URL=http://your-alt-baseURL:3080/- Có các cấu hình bổ sung, tùy chọn, tùy thuộc vào nhu cầu của bạn, chẳng hạn như vô hiệu hóa giao diện trình tạo trợ lý (assistant builder UI), có sẵn thông qua tệp cấu hình tùy chỉnh
librechat.yaml:- Kiểm soát khả năng hiển thị và việc sử dụng giao diện trình tạo (builder) cho các trợ lý. Thông tin thêm
- Chỉ định khoảng thời gian thăm dò (polling interval) tính bằng mili giây để kiểm tra các cập nhật chạy hoặc thay đổi trong trạng thái chạy của trợ lý. Thông tin thêm
- Đặt khoảng thời gian chờ tính bằng mili giây cho các lần chạy assistant. Giúp quản lý tải hệ thống bằng cách giới hạn tổng thời gian vận hành. Thông tin thêm
- Chỉ định các ID trợ lý nào được hỗ trợ hoặc loại trừ Thông tin thêm
Gọi hàm nghiêm ngặt (Strict function calling)
With librechat you can add add the 'x-strict': true flag at operation-level in the openapi spec for actions. This will automatically generate function calls with 'strict' mode enabled. Note that strict mode supports only a partial subset of json. Read https://platform.openai.com/docs/guides/structured-outputs for details.
Ví dụ:
{
"openapi": "3.1.0",
"info": {
"title": "Math.js API",
"description": "API for performing mathematical operations, such as addition, subtraction, etc.",
"version": "1.0.0"
},
"servers": [
{
"url": "https://api.mathjs.org/v4"
}
],
"paths": {
"/": {
"post": {
"summary": "Evaluate a mathematical expression",
"description": "Sends a mathematical expression in the request body to evaluate.",
"operationId": "math",
"x-strict": true,
"parameters": [
"requestBody": {
"required": true,
"content": {
"application/json": {
"schema": {
"type": "object",
"properties": {
"expr": {
"type": "string",
"description": "The mathematical expression to evaluate (e.g., `2+3`)."
}
},
"required": ["expr"]
}
}
}
},
"responses": {
"200": {
"description": "The result of the evaluated expression.",
"content": {
"application/json": {
"schema": {
"type": "object",
"properties": {
"result": {
"type": "number",
"description": "The evaluated result of the expression."
}
}
}
}
}
},
"400": {
"description": "Invalid expression provided.",
"content": {
"application/json": {
"schema": {
"type": "object",
"properties": {
"error": {
"type": "string",
"description": "Error message describing the invalid expression."
}
}
}
}
}
}
}
}
}
}
}Ghi chú
Ghi chú:
- Tại thời điểm viết bài, chỉ những model sau đây hỗ trợ khả năng Retrieval:
- gpt-3.5-turbo-0125
- gpt-4-0125-preview
- gpt-4-turbo-preview
- gpt-4-1106-preview
- gpt-3.5-turbo-1106
- Tính năng Vision hiện chưa được hỗ trợ.
- Nếu bạn đã thiết lập giá trị
ENDPOINTStrong tệp .env của mình trước đó, bạn sẽ cần thêm giá trịassistants
Hướng dẫn này thế nào?