Azure OpenAI Nesne Yapısı

Azure OpenAI Service'i uygulamanızla entegre etmek, Azure OpenAI tarafından barındırılan birden fazla dağıtımı ve bölge modelini sorunsuz bir şekilde kullanmanıza olanak tanır. Bu bölüm, Azure OpenAI endpoint yapılandırmasını ihtiyaçlarınıza göre nasıl ayarlayacağınızı detaylandırmaktadır.

Azure OpenAI yapılandırmalarını ayarlamaya yönelik ayrıntılı bir kılavuz için buraya tıklayın

Örnek Yapılandırma

endpoints:
  azureOpenAI:
    titleModel: "gpt-4-turbo"
    groups:
      - group: "my-westus" # arbitrary name
        apiKey: "${WESTUS_API_KEY}"
        instanceName: "actual-instance-name" # name of the resource group or instance
        version: "2023-12-01-preview"
        # baseURL: https://prod.example.com
        # additionalHeaders:
        #   X-Custom-Header: value
        models:
          gpt-4-vision-preview:
            deploymentName: gpt-4-vision-preview
            version: "2024-02-15-preview"
          gpt-3.5-turbo:
            deploymentName: gpt-35-turbo
          gpt-3.5-turbo-1106:
            deploymentName: gpt-35-turbo-1106
          gpt-4:
            deploymentName: gpt-4
          gpt-4-1106-preview:
            deploymentName: gpt-4-1106-preview
      - group: "my-eastus"
        apiKey: "${EASTUS_API_KEY}"
        instanceName: "actual-eastus-instance-name"
        deploymentName: gpt-4-turbo
        version: "2024-02-15-preview"
        baseURL: "https://gateway.ai.cloudflare.com/v1/cloudflareId/azure/azure-openai/${INSTANCE_NAME}/${DEPLOYMENT_NAME}" # uses env variables
        additionalHeaders:
          X-Custom-Header: value
        models:
          gpt-4-turbo: true

Not: Azure OpenAI endpoint, streamRate, titleModel, titleMethod, titlePrompt, titlePromptTemplate ve titleEndpoint dahil olmak üzere tüm Shared Endpoint Settings ayarlarını destekler.

assistants

Anahtar:

Key	Type	Description	Example
assistants	Boolean	Azure OpenAI endpoint için asistanları etkinleştirir veya devre dışı bırakır. `true` olarak ayarlandığında, bu endpoint ile ilişkili asistanları etkinleştirir.	Choose one, either the official OpenAI API or Azure OpenAI API for assistants, not both.

Varsayılan: Belirtilmemiş

Örnek:

assistants: true

groups

Anahtar:

Key	Type	Description	Example
groups	Array	Coğrafi konuma veya amaca göre model grupları için yapılandırma. `groups` dizisindeki her bir öğe, genellikle coğrafi bölgeye veya farklı yapılandırmaya göre belirli bir model kümesini yapılandırır.

Varsayılan: Belirtilmemiş

Not: Yukarıdaki örneğe bakın.

Grup Nesnesi Yapısı

groups altındaki her öğe, her biri aşağıdaki alanlara sahip bir kayıt listesinin parçasıdır:

group

Anahtar:

Key	Type	Description	Example
group	String	Bir model grubu için tanımlayıcı.

Gerekli: evet

Örnek:

"group": "my-westus"

apiKey

Anahtar:

Key	Type	Description	Example
apiKey	String	Azure OpenAI Service'e erişim için API anahtarı.	It's highly recommended to use a custom env. variable reference for this field, i.e. `${YOUR_VARIABLE}`

Gerekli: evet

Örnek:

apiKey: "${WESTUS_API_KEY}"

instanceName

Anahtar:

Key	Type	Description	Example
instanceName	String	Azure örneğinin adı. Her iki alan adı formatını da destekler: `.openai.azure.com` (eski) ve `.cognitiveservices.azure.com` (yeni). Eski `.openai.azure.com` formatıyla geriye dönük uyumluluk için tam alan adını (ör. `my-instance.cognitiveservices.azure.com`) veya sadece örnek adını (ör. `my-instance`) belirtebilirsiniz.	It's recommended to use a custom env. variable reference for this field, i.e. `${YOUR_VARIABLE}`

Gerekli: evet

Örnek:

# Using just the instance name (legacy format applied)
instanceName: "my-westus"
# OR using the full domain (new format)
instanceName: "my-westus.cognitiveservices.azure.com"

version

Anahtar:

Key	Type	Description	Example
version	String	API sürümü.	It's recommended to use a custom env. variable reference for this field, i.e. `${YOUR_VARIABLE}`

Varsayılan: Belirtilmemiş

Örnek:

version: "2023-12-01-preview"

baseURL

Anahtar:

Key	Type	Description	Example
baseURL	String	Azure OpenAI Service için temel URL.	It's recommended to use a custom env. variable reference for this field, i.e. `${YOUR_VARIABLE}`

Varsayılan: Belirtilmemiş

Örnek:

baseURL: "https://prod.example.com"

additionalHeaders

Anahtar:

Key	Type	Description	Example
additionalHeaders	Dictionary	API istekleri için ek başlıklar. Tüm başlık değerleri string olmalıdır.	It's recommended to use a custom env. variable reference for the values of field, as shown in the example. `api-key` header value is sent on every request.

Varsayılan: Belirtilmemiş

Örnek:

additionalHeaders:
  X-Custom-Header: ${YOUR_SECRET_CUSTOM_VARIABLE}

serverless

Anahtar:

Key	Type	Description	Example
serverless	Boolean	Azure OpenAI sohbet tamamlamaları için sunucusuz bir çıkarım endpoint'i kullanıldığını belirtir. `true` olarak ayarlandığında, grubun bir Azure "Models as a Service" modeli olarak sunucusuz çıkarım endpoint'lerini kullanacak şekilde yapılandırıldığını belirtir.	More info [here](../ai_endpoints/azure.mdx#serverless-inference-endpoints)

Varsayılan: Belirtilmemiş

Örnek:

serverless: true

addParams

Anahtar:

Key	Type	Description	Example
addParams	Object/Dictionary	İsteklere ek parametreler ekler. API'ye özgü seçenekleri belirtmek için kullanışlıdır.

Varsayılan: Belirtilmemiş

Örnek:

addParams:
  safe_prompt: true

dropParams

Anahtar:

Key	Type	Description	Example
dropParams	Array/List of Strings	İsteklerden varsayılan parametreleri kaldırır. Belirtilen varsayılan parametreleri hariç tutar.	Default parameters are the standard request parameters LibreChat sends to the Azure OpenAI API.

Varsayılan: Belirtilmemiş

Örnek:

dropParams: ["stop", "user", "frequency_penalty", "presence_penalty"]

models

Anahtar:

Key	Type	Description	Example
models		Bir grup içindeki bireysel modellere yönelik yapılandırma. Dağıtım adı ve sürüm dahil olmak üzere her model için ayarları yapılandırır.	Model configurations can adopt the group's deployment name and/or version when configured as a boolean (set to `true`) or an object for detailed settings of either of those fields.

Varsayılan: Belirtilmemiş

Örnek:

models:
  gpt-4-vision-preview: 
    deploymentName: "arbitrary-deployment-name"
    version: "2024-02-15-preview"

Azure OpenAI Nesne Yapısı

Bu sayfada