Tham số mặc định

Lưu ý

• Mục đích của phần tài liệu này là giúp hiểu rõ chức năng của addParams và dropParams. Bạn KHÔNG THỂ định cấu hình toàn cục các tham số và giá trị của chúng mà LibreChat gửi theo mặc định, việc này chỉ có thể được định cấu hình trong phạm vi một endpoint duy nhất.

Các endpoint tùy chỉnh chia sẻ logic với endpoint OpenAI, và do đó có các tham số mặc định được thiết kế riêng cho API OpenAI.

{
  "model": "your-selected-model",
  "user": "LibreChat_User_ID",
  "stream": true,
  "messages": [
    {
      "role": "user",
      "content": "hi how are you",
    },
  ],
}

Phân tích chi tiết

• model: Mô hình được chọn từ danh sách các mô hình.
• user: Một định danh duy nhất đại diện cho người dùng cuối của bạn, có thể giúp OpenAI giám sát và phát hiện hành vi lạm dụng.
• stream: Nếu được thiết lập, các phần tin nhắn delta sẽ được gửi đi, giống như trong ChatGPT. Nếu không, quá trình tạo nội dung sẽ chỉ khả dụng khi đã hoàn tất.
• messages: Định dạng OpenAI cho các tin nhắn; trường name được thêm vào các tin nhắn với vai trò system và assistant khi một tên tùy chỉnh được chỉ định thông qua preset.

Lưu ý: Trường max_tokens không được gửi để sử dụng số lượng token tối đa khả dụng, đây là hành vi mặc định của OpenAI API. Một số API thay thế yêu cầu trường này, hoặc nó có thể mặc định ở giá trị rất thấp khiến phản hồi của bạn có thể bị cắt ngắn; trong trường hợp này, bạn nên thêm nó vào trường addParams như được hiển thị trong Cấu trúc đối tượng Endpoint tùy chỉnh.