Özel Parametreler

Varsayılan Parametre Seti Seçimi

Varsayılan olarak, librechat.yaml yapılandırma dosyasında özel bir endpoint belirttiğinizde, OpenAI API'sinin varsayılan parametreleri kullanılır. Ancak, özel endpoint tanımınız içerisinde customParams.defaultParamsEndpoint alanını belirterek bu varsayılanları geçersiz kılabilirsiniz. Örneğin, özel endpoint'iniz için Google parametrelerini kullanmak isterseniz:

endpoints:
  custom:
    - name: 'Google Gemini'
      apiKey: ...
      baseURL: ...
      customParams:
        defaultParamsEndpoint: 'google'

Yeni bir ajan veya hazır ayar oluşturduğunuzda "Google Gemini" endpoint'iniz artık Google API için parametreleri görüntüleyecektir.

Parametre Tanımlarının Geçersiz Kılınması

Bunun da ötesinde, özel endpoint'iniz için sağlanan parametrelere ince ayar yapabilirsiniz. Örneğin, google endpoint'i için temperature parametresi 0.0 ile 1.0 arasında bir aralığa sahip bir kaydırıcıdır ve varsayılan değeri 1.0'dır; bu değerleri geçersiz kılmak için librechat.yaml dosyasını güncelleyebilirsiniz:

endpoints:
  custom:
    - name: 'Google Gemini'
      apiKey: ...
      baseURL: ...
      customParams:
        defaultParamsEndpoint: 'google'
        paramDefinitions:
          - key: temperature
            range:
              min: 0
              max: 0.7
              step: 0.1
            default: 0.5

Sonuç olarak, Temperature kaydırıcısı 0.0 ile 0.7 aralığıyla, 0.1 adımla ve 0.5 varsayılan değeriyle sınırlandırılacaktır. Diğer parametreler ise varsayılan değerlerine ayarlanacaktır.

Varsayılan Parametre Değerlerini Ayarlama

API istekleri yapıldığında otomatik olarak uygulanacak parametreler için varsayılan değerler belirleyebilirsiniz. Bu, kullanıcıların her seferinde manuel olarak yapılandırmasına gerek kalmadan özel endpoint'iniz için temel parametre değerlerini ayarlamak adına kullanışlıdır.

paramDefinitions içindeki default alanı, parametreler tanımlanmadığında uygulanan varsayılan değerleri ayarlamanıza olanak tanır. Bu varsayılan değerler, doğru geçersiz kılma (override) davranışını sağlamak için bir öncelik sırasını takip eder:

Öncelik Sırası (en düşükten en yükseğe):

1. paramDefinitions içindeki varsayılan değerler - Parametre tanımlanmadığında ilk olarak uygulanır
2. addParams - Varsayılan değerleri geçersiz kılabilir
3. Kullanıcı tarafından yapılandırılmış modelOptions - En yüksek öncelik, her şeyi geçersiz kılar

endpoints:
  custom:
    - name: 'My Custom LLM'
      apiKey: ...
      baseURL: ...
      customParams:
        defaultParamsEndpoint: 'openAI'
        paramDefinitions:
          - key: temperature
            default: 0.7
          - key: topP
            default: 0.9
          - key: maxTokens
            default: 2000

Bu örnekte:

• Bir kullanıcı temperature değerini belirtmezse, varsayılan olarak 0.7 kullanılır.
• Eğer bir kullanıcı temperature değerini açıkça 0.5 olarak ayarlarsa, kendi değeri (0.5) öncelik kazanır
• addParams alanı (yapılandırılmışsa) bu varsayılanları geçersiz kılabilir
• Arayüzdeki kullanıcı seçimleri her zaman en yüksek önceliğe sahiptir

Anthropic

Anthropic ile ilgili iki özel endpoint modu bulunmaktadır:

• Özel endpoint üzerindeki provider: 'anthropic', yerel Anthropic /v1/messages istemcisini kullanır. Bunu Anthropic'in kendisi veya Anthropic Messages API ile uyumlu ağ geçitleri (gateways) için kullanın.
• customParams.defaultParamsEndpoint: 'anthropic' ifadesi, özel endpoint'i OpenAI uyumlu yolda tutarken Anthropic tarzı parametre meta verilerini ve istek uyarlamasını uygular.

defaultParamsEndpoint: 'anthropic' kullanıldığında, sistem sadece Anthropic parametre setlerini görüntülemenin ve kullanmanın ötesine geçen özel bir işleme sağlar:

Bu, temel olarak OpenAI ile uyumlu olmayan thinking parametresini düzgün bir şekilde biçimlendirmek için gereklidir:

{
  "thinking": {
    "type": "enabled",
    "budget_tokens": 10000
  }
}

Ayrıca sistem, aşağıdakiler gibi modele özgü Anthropic beta başlıklarını otomatik olarak ekler:

• anthropic-beta: prompt-caching-2024-07-31 istem önbellekleme (prompt caching) desteği için
• genişletilmiş bağlam modelleri için anthropic-beta: context-1m-2025-08-07
• Kullanılan Claude modeline dayalı modele özgü özellik bayrakları

Yerel Anthropic uyumlu endpoint'ler için, özel endpoint üzerinde provider: 'anthropic' tercih edin. Bu, aracıları (agents), özetlemeyi, token/bağlam bütçelemeyi ve parametre varsayılanlarını Anthropic sağlayıcı yolu üzerinden yönlendirir.

Akıl yürütme tekrarı (Reasoning replay)

Bazı OpenAI uyumlu akıl yürütme (reasoning) ağ geçitleri, sağlayıcı reasoning_content değerinin asistan araç çağrısı (tool-call) turlarında tekrar oynatılmasını gerektirir. Bu davranışı yalnızca ihtiyaç duyan sağlayıcılar için etkinleştirmek üzere özel endpoint bayraklarını kullanın:

customParams:
  reasoningFormat: reasoning_object
  reasoningKey: reasoning_content
  includeReasoningContent: true

includeReasoningHistory: true ayarını, yalnızca sağlayıcı aynı zamanda LibreChat'in sonraki turlarda kalıcı konuşma geçmişinden reasoning_content içeriğini yeniden oluşturmasını gerektirdiğinde kullanın. Bu, includeReasoningContent gerekliliğini de beraberinde getirir.