Google

Google endpoint için, Generative Language API (Gemini modelleri için) veya Vertex AI API (Gemini, PaLM2 ve Codey modelleri için) kullanabilirsiniz.

Generative Language API, Google AI Studio üzerinden alabileceğiniz bir API anahtarı kullanır.

Vertex AI için, uygun erişim yapılandırılmış bir Service Account JSON anahtar dosyasına ihtiyacınız vardır.

Her ikisi için de talimatlar aşağıda verilmiştir.

Generative Language API (Gemini)

Gemini API fiyatlandırması ve hız sınırları için buraya bakın

⚠️ Google modelleri ücretsiz olsa da, Google Hesabınızdan ve API anahtarınızdan kimlik bilgileri arındırılmış verilerle modeli geliştirmeye yardımcı olmak için girdi/çıktılarınızı kullanırlar. ⚠️ Bu süre zarfında, mesajlarınız "eğitimli incelemeciler tarafından erişilebilir olabilir."

Gemini modellerini Google AI Studio üzerinden kullanmak için bir API anahtarına ihtiyacınız olacak. Eğer henüz bir anahtarınız yoksa, Google AI Studio içinde bir anahtar oluşturun.

Buradan bir API anahtarı alın: aistudio.google.com

Anahtarınızı aldıktan sonra, örneğinizdeki tüm kullanıcıların kullanabilmesi için anahtarı .env dosyanızda belirtin.

GOOGLE_KEY=mY_SeCreT_w9347w8_kEY

Ya da, aşağıdakileri ayarlayarak kullanıcıların bunu arayüzden sağlamasını sağlayabilirsiniz:

GOOGLE_KEY=user_provided

Bazı ters vekil sunucular (reverse proxies) X-goog-api-key başlığını desteklemez. LibreChat'i bunun yerine Authorization başlığını kullanacak şekilde yapılandırabilirsiniz:

GOOGLE_AUTH_HEADER=true

Model listesini getirme henüz desteklenmediğinden, kullanmak istediğiniz modelleri .env dosyasında ayarlamalısınız.

Kolaylığınız için, 18/05/24 tarihi itibarıyla Generative Language API ile kullanılabilecek en güncel modeller şunlardır:

GOOGLE_MODELS=gemini-1.5-flash-latest,gemini-1.0-pro,gemini-1.0-pro-001,gemini-1.0-pro-latest,gemini-1.0-pro-vision-latest,gemini-1.5-pro-latest,gemini-pro,gemini-pro-vision

.env dosyanızda GOOGLE_KEY=user_provided ayarını yapmak, hem Vertex AI Hizmet Hesabı JSON anahtar dosyasının hem de Generative Language API anahtarının aşağıda gösterildiği gibi arayüzden sağlanmasını ayarlar:

URL Bağlamı

Google'ın URL Context aracı, desteklenen Gemini modellerinin kullanıcı mesajında yer alan web sayfaları, görseller ve PDF'ler gibi URL'leri okumasını sağlar. LibreChat'te bunu, Google endpoint parametresi olan url_context ile etkinleştirin.

preset:
  endpoint: google
  model: gemini-2.5-flash
  url_context: true

Ayrıca addParams veya varsayılan parametreler ile Google benzeri bir özel endpoint için de etkinleştirebilirsiniz:

custom:
  - name: 'Google Gateway'
    apiKey: '${GOOGLE_KEY}'
    baseURL: 'https://gateway.example.com/v1'
    models:
      default: ['gemini-2.5-flash']
    customParams:
      defaultParamsEndpoint: google
    addParams:
      url_context: true

url_context, Gemini 2.5+ ve Gemini 3.x modelleri dahil olmak üzere desteklenen Gemini metin modellerinde mevcuttur. url_context etkinleştirildiğinde YouTube bağlantıları, Google'ın URL Context aracı YouTube URL'lerini doğrudan desteklemediği için Gemini'ın yerel video anlama özelliği ile ayrı olarak işlenir.

Vertex AI

Vertex API fiyatlandırması ve hız sınırları için buraya bakın

Google LLM'lerini (Google Cloud Vertex AI aracılığıyla) kurmak için öncelikle Google Cloud'a kaydolun: cloud.google.com

Genellikle 300$ başlangıç kredisi alabilirsiniz, bu da bu seçeneği 90 gün boyunca ücretsiz hale getirir.

1. Kaydolduktan sonra, Google Cloud üzerinde Vertex AI API'yi etkinleştirin:
   • Google Cloud konsolundaki Vertex AI sayfasına gidin
   • İstenirse Enable API seçeneğine tıklayın
2. Vertex AI rolüne sahip bir Hizmet Hesabı oluşturun:
   • Bir Hizmet Hesabı oluşturmak için buraya tıklayın
   • Bir proje seçin veya oluşturun
   • Bir hizmet hesabı kimliği (gerekli) girin, ad ve açıklama isteğe bağlıdır
     • 
   • "Vertex AI User" rolünü en azından vermek için "Create and Continue" öğesine tıklayın
     • 
   • "Continue/Done" (Devam Et/Bitti) seçeneğine tıklayın
3. Proje Dizininize Kaydetmek için bir JSON anahtarı oluşturun:
   • Hizmet Hesapları sayfasına geri dönün
   • Hizmet hesabınızı seçin
   • "Keys" öğesine tıklayın
     • 
   • "Add Key" öğesine ve ardından "Create new key" öğesine tıklayın
     • 
   • Anahtar türü olarak JSON'ı seçin ve "Create" düğmesine tıklayın
   • Anahtar dosyasını indirin ve adını 'auth.json' olarak değiştirin
   • Bunu proje dizini içinde, /api/data/ klasörüne kaydedin.
     • 

JSON anahtar dosyanızı, LibreChat örneğinizin tüm kullanıcılarının kullanabilmesi için proje dizinine kaydetmek.

Alternatif olarak, aşağıdakileri ayarlayarak kullanıcıların bunu arayüzden (frontend) sağlamasını sağlayabilirsiniz:

# Note: this configures both the Vertex AI Service Account JSON key file
# and the Generative Language API key to be provided from the frontend.
GOOGLE_KEY=user_provided

Ayrıca GOOGLE_SERVICE_KEY_FILE ortam değişkenini kullanarak hizmet hesabı anahtar dosyasını belirtebilirsiniz:

# Path to the service account JSON key file
GOOGLE_SERVICE_KEY_FILE=/path/to/auth.json

# Or provide as a URL
GOOGLE_SERVICE_KEY_FILE=https://example.com/path/to/auth.json

# Or provide as stringified JSON
GOOGLE_SERVICE_KEY_FILE='{"type":"service_account","project_id":"your-project",...}'

# Or provide as base64 encoded JSON
GOOGLE_SERVICE_KEY_FILE=eyJ0eXBlIjogInNlcnZpY2VfYWNjb3VudCIsICJwcm9qZWN0X2lkIjogInlvdXItcHJvamVjdC1pZCIsIC4uLn0=

Bu, OCR özellikleri gibi Vertex AI kimlik doğrulaması gerektiren işlevler için özellikle yararlıdır.

Ayrıca Vertex AI API istekleri için Google Cloud konumunu da belirtebilirsiniz:

# Google Cloud region for Vertex AI
GOOGLE_LOC=us-central1

# Alternative region for Gemini Image Generation (defaults to global)
GOOGLE_CLOUD_LOCATION=global

Model listesini getirme henüz desteklenmediğinden, kullanmak istediğiniz modelleri .env dosyasında ayarlamalısınız.

Kolaylığınız için, 18/05/24 tarihi itibarıyla Generative Language API ile kullanılabilecek en güncel modeller şunlardır:

GOOGLE_MODELS=gemini-1.5-flash-preview-0514,gemini-1.5-pro-preview-0514,gemini-1.0-pro-vision-001,gemini-1.0-pro-002,gemini-1.0-pro-001,gemini-pro-vision,gemini-1.0-pro

version: '3.4'

services:
  api:
    volumes:
      - type: bind
        source: ./api/data/auth.json
        target: /app/api/data/auth.json

Google Güvenlik Ayarları

Hem Vertex AI hem de Generative Language API için güvenlik ayarlarını yapmak üzere, .env dosyanızda aşağıdakileri ayarlayabilirsiniz:

GOOGLE_SAFETY_SEXUALLY_EXPLICIT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_HATE_SPEECH=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_HARASSMENT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_DANGEROUS_CONTENT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_CIVIC_INTEGRITY=BLOCK_ONLY_HIGH

Ayrıca, .env dosyanızda aşağıdakileri ayarlayarak güvenlik ayarlarını hariç tutabilirsiniz; bu, sağlayıcı varsayılanlarını kullanacaktır. Bu, belirli güvenlik ayarlarıyla ilgili sorun yaşıyorsanız yardımcı olabilir.

GOOGLE_EXCLUDE_SAFETY_SETTINGS=true

NOT: Varsayılan olarak BLOCK_NONE ayarına erişiminiz yoktur. Bu kısıtlı HarmBlockThreshold ayarını kullanmak için şunlardan birini yapmanız gerekir:

• (a) Google hesap ekibiniz aracılığıyla bir izin listesi (allowlist) üzerinden erişim sağlayın
• (b) Bu talimatı izleyerek hesap türünüzü aylık faturalandırmalı ödemeye geçirin: https://cloud.google.com/billing/docs/how-to/invoiced-billing

Notlar:

• Google endpoint, librechat.yaml yapılandırma dosyası aracılığıyla streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate ve titleEndpoint dahil olmak üzere tüm Shared Endpoint Settings özelliklerini destekler.