Google

Untuk Google endpoint, Anda dapat menggunakan Generative Language API (untuk model Gemini), atau Vertex AI API (untuk model Gemini, PaLM2 & Codey).

Generative Language API menggunakan API key, yang bisa Anda dapatkan dari Google AI Studio.

Untuk Vertex AI, Anda memerlukan file kunci JSON Service Account, dengan akses yang dikonfigurasi dengan tepat.

Petunjuk untuk keduanya diberikan di bawah ini.

Generative Language API (Gemini)

Lihat di sini untuk harga dan batas tarif Gemini API

⚠️ Meskipun model Google gratis, mereka menggunakan input/output Anda untuk membantu meningkatkan model, dengan data yang telah dide-identifikasi dari Akun Google dan API key Anda. ⚠️ Selama periode ini, pesan Anda “mungkin dapat diakses oleh peninjau terlatih.”

Untuk menggunakan model Gemini melalui Google AI Studio, Anda memerlukan API key. Jika Anda belum memilikinya, buatlah key di Google AI Studio.

Dapatkan kunci API di sini: aistudio.google.com

Setelah Anda memiliki kunci tersebut, masukkan kunci tersebut ke dalam file .env Anda, yang memungkinkan semua pengguna instans Anda untuk menggunakannya.

GOOGLE_KEY=mY_SeCreT_w9347w8_kEY

Atau, Anda dapat meminta pengguna untuk menyediakannya dari frontend dengan mengatur hal berikut:

GOOGLE_KEY=user_provided

Beberapa reverse proxy tidak mendukung header X-goog-api-key. Anda dapat mengonfigurasi LibreChat untuk menggunakan header Authorization sebagai gantinya:

GOOGLE_AUTH_HEADER=true

Karena pengambilan daftar model belum didukung, Anda harus mengatur model yang ingin Anda gunakan di dalam file .env.

Untuk kenyamanan Anda, berikut adalah model-model terbaru per 18/5/24 yang dapat digunakan dengan Generative Language API:

GOOGLE_MODELS=gemini-1.5-flash-latest,gemini-1.0-pro,gemini-1.0-pro-001,gemini-1.0-pro-latest,gemini-1.0-pro-vision-latest,gemini-1.5-pro-latest,gemini-pro,gemini-pro-vision

Catatan:

Model gemini-pro atau gemini-pro-vision diperlukan dalam daftar Anda untuk melampirkan gambar.
Menggunakan LibreChat, model PaLM2 dan Codey hanya dapat diakses melalui Vertex AI, bukan Generative Language API.
- Hanya model yang mendukung metode generateContent yang dapat digunakan secara native dengan LibreChat + Gen AI API.
Memilih gemini-pro-vision untuk pesan dengan lampiran tidak diperlukan karena sistem akan mengalihkannya secara otomatis untuk Anda.
Karena gemini-pro-vision tidak menerima pesan tanpa lampiran, pesan tanpa lampiran secara otomatis dialihkan untuk menggunakan gemini-pro, jika tidak, Google akan memberikan respons kesalahan.
Dengan endpoint Google, Anda tidak dapat menggunakan Vertex AI dan Generative Language API secara bersamaan. Anda harus memilih salah satu.
Beberapa model PaLM/Codey dan gemini-pro-vision mungkin gagal jika maxOutputTokens diatur ke nilai yang tinggi. Jika Anda mengalami masalah ini, cobalah untuk mengurangi nilainya melalui parameter percakapan.

Mengatur GOOGLE_KEY=user_provided di dalam file .env Anda akan membuat file kunci JSON Akun Layanan Vertex AI dan kunci API Generative Language disediakan dari frontend seperti berikut:

Konteks URL

Alat URL Context Google memungkinkan model Gemini yang didukung untuk membaca URL yang disertakan dalam pesan pengguna, seperti halaman web, gambar, dan PDF. Di LibreChat, aktifkan fitur ini dengan parameter endpoint Google url_context.

preset:
  endpoint: google
  model: gemini-2.5-flash
  url_context: true

Anda juga dapat mengaktifkannya untuk endpoint kustom bergaya Google dengan addParams atau parameter default:

custom:
  - name: 'Google Gateway'
    apiKey: '${GOOGLE_KEY}'
    baseURL: 'https://gateway.example.com/v1'
    models:
      default: ['gemini-2.5-flash']
    customParams:
      defaultParamsEndpoint: google
    addParams:
      url_context: true

url_context tersedia pada model teks Gemini yang didukung, termasuk model Gemini 2.5+ dan Gemini 3.x. Tautan YouTube ditangani secara terpisah dengan pemahaman video bawaan Gemini saat url_context diaktifkan, karena alat URL Context milik Google tidak mendukung URL YouTube secara langsung.

Vertex AI

Lihat di sini untuk harga dan batas tarif Vertex API

Untuk mengatur Google LLM (melalui Google Cloud Vertex AI), pertama-tama, daftar ke Google Cloud: cloud.google.com

Anda biasanya bisa mendapatkan kredit awal $300, yang membuat opsi ini gratis selama 90 hari.

Setelah mendaftar, Aktifkan Vertex AI API di Google Cloud:
- Buka halaman Vertex AI di konsol Google Cloud
- Klik Enable API jika diminta
Buat Akun Layanan dengan peran Vertex AI:
- Klik di sini untuk membuat Akun Layanan
- Pilih atau buat proyek
- Masukkan ID akun layanan (wajib), nama dan deskripsi bersifat opsional
- Klik "Create and Continue" untuk memberikan setidaknya peran "Vertex AI User"
- Klik "Continue/Done"
Buat kunci JSON untuk Disimpan di Direktori Proyek Anda:
- Kembali ke halaman Service Accounts
- Pilih akun layanan Anda
- Klik "Keys"
- Klik "Add Key" lalu "Create new key"
- Pilih JSON sebagai tipe kunci dan klik "Create"
- Unduh file kunci dan ubah namanya menjadi 'auth.json'
- Simpan di dalam direktori proyek, di /api/data/

Alternatif: Menggunakan GOOGLE_SERVICE_KEY_FILE

Alih-alih menyimpan file kunci ke /api/data/auth.json, Anda dapat menggunakan variabel lingkungan GOOGLE_SERVICE_KEY_FILE untuk menentukan jalur ke file kunci akun layanan Anda. Ini memberikan fleksibilitas lebih dalam cara Anda mengelola kredensial Anda. Lihat bagian variabel lingkungan di bawah untuk detail lebih lanjut.

Menyimpan file kunci JSON Anda di direktori proyek yang memungkinkan semua pengguna instans LibreChat Anda untuk menggunakannya.

Sebagai alternatif, Anda dapat meminta pengguna untuk menyediakannya dari frontend dengan mengatur hal berikut:

# Note: this configures both the Vertex AI Service Account JSON key file
# and the Generative Language API key to be provided from the frontend.
GOOGLE_KEY=user_provided

Anda juga dapat menentukan file kunci akun layanan menggunakan variabel lingkungan GOOGLE_SERVICE_KEY_FILE:

# Path to the service account JSON key file
GOOGLE_SERVICE_KEY_FILE=/path/to/auth.json

# Or provide as a URL
GOOGLE_SERVICE_KEY_FILE=https://example.com/path/to/auth.json

# Or provide as stringified JSON
GOOGLE_SERVICE_KEY_FILE='{"type":"service_account","project_id":"your-project",...}'

# Or provide as base64 encoded JSON
GOOGLE_SERVICE_KEY_FILE=eyJ0eXBlIjogInNlcnZpY2VfYWNjb3VudCIsICJwcm9qZWN0X2lkIjogInlvdXItcHJvamVjdC1pZCIsIC4uLn0=

Ini sangat berguna untuk fitur-fitur yang memerlukan autentikasi Vertex AI, seperti kemampuan OCR.

Anda juga dapat menentukan lokasi Google Cloud untuk permintaan Vertex AI API:

# Google Cloud region for Vertex AI
GOOGLE_LOC=us-central1

# Alternative region for Gemini Image Generation (defaults to global)
GOOGLE_CLOUD_LOCATION=global

Karena pengambilan daftar model belum didukung, Anda harus mengatur model yang ingin Anda gunakan di dalam file .env.

Untuk kenyamanan Anda, berikut adalah model-model terbaru per 18/5/24 yang dapat digunakan dengan Generative Language API:

GOOGLE_MODELS=gemini-1.5-flash-preview-0514,gemini-1.5-pro-preview-0514,gemini-1.0-pro-vision-001,gemini-1.0-pro-002,gemini-1.0-pro-001,gemini-pro-vision,gemini-1.0-pro

Jika Anda menggunakan Docker

Jika Anda menggunakan Docker dan ingin menyediakan file auth.json, Anda juga perlu melakukan mount volume di dalam docker-compose.override.yml

version: '3.4'

services:
  api:
    volumes:
      - type: bind
        source: ./api/data/auth.json
        target: /app/api/data/auth.json

Pengaturan Keamanan Google

Untuk mengatur pengaturan keamanan bagi Vertex AI dan Generative Language API, Anda dapat mengatur hal berikut di dalam file .env Anda:

GOOGLE_SAFETY_SEXUALLY_EXPLICIT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_HATE_SPEECH=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_HARASSMENT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_DANGEROUS_CONTENT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_CIVIC_INTEGRITY=BLOCK_ONLY_HIGH

Anda juga dapat mengecualikan pengaturan keamanan dengan menetapkan hal berikut di file .env Anda, yang akan menggunakan pengaturan default penyedia. Ini dapat membantu jika Anda mengalami masalah dengan pengaturan keamanan tertentu.

GOOGLE_EXCLUDE_SAFETY_SETTINGS=true

CATATAN: Anda tidak memiliki akses ke pengaturan BLOCK_NONE secara default. Untuk menggunakan pengaturan HarmBlockThreshold yang dibatasi ini, Anda perlu melakukan salah satu dari hal berikut:

(a) Dapatkan akses melalui allowlist melalui tim akun Google Anda
(b) Ubah jenis akun Anda ke penagihan faktur bulanan dengan mengikuti petunjuk ini: https://cloud.google.com/billing/docs/how-to/invoiced-billing

Catatan:

endpoint Google mendukung semua Shared Endpoint Settings melalui file konfigurasi librechat.yaml, termasuk streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate, dan titleEndpoint