Skip to main content
LibreChat is joining ClickHouse to power the open-source Agentic Data Stack 🎉 Learn more
LibreChat

Google

Google endpointについては、Generative Language API(Geminiモデル用)または Vertex AI API(Gemini、PaLM2、Codeyモデル用)のいずれかを使用できます。

Generative Language APIはAPIキーを使用します。これはGoogle AI Studioから取得できます。

Vertex AIを使用するには、適切なアクセス権限が設定されたサービスアカウントのJSONキーファイルが必要です。

両方の手順を以下に示します。

Generative Language API (Gemini)

Gemini APIの料金とレート制限についてはこちらをご覧ください

⚠️ Googleのモデルは無料ですが、入力/出力データはモデルの改善に使用されます。その際、データはGoogleアカウントおよびAPIキーから匿名化されます。 ⚠️ この期間中、あなたのメッセージは「トレーニングを受けたレビュアーがアクセスできる」可能性があります。

Google AI Studioを通じてGeminiモデルを使用するには、APIキーが必要です。まだお持ちでない場合は、Google AI Studioでキーを作成してください。

APIキーの取得はこちらから: aistudio.google.com

キーを取得したら、.envファイルにそのキーを設定してください。これにより、インスタンスのすべてのユーザーがそれを使用できるようになります。

GOOGLE_KEY=mY_SeCreT_w9347w8_kEY

または、以下を設定することで、フロントエンドからユーザーに提供させることもできます:

GOOGLE_KEY=user_provided

一部のリバースプロキシは X-goog-api-key ヘッダーをサポートしていません。代わりに Authorization ヘッダーを使用するように LibreChat を設定できます:

GOOGLE_AUTH_HEADER=true

モデルリストの取得はまだサポートされていないため、使用したいモデルを .env ファイルで設定する必要があります。

利便性のため、2024年5月18日時点でGenerative Language APIで使用可能な最新モデルを以下に記載します:

GOOGLE_MODELS=gemini-1.5-flash-latest,gemini-1.0-pro,gemini-1.0-pro-001,gemini-1.0-pro-latest,gemini-1.0-pro-vision-latest,gemini-1.5-pro-latest,gemini-pro,gemini-pro-vision

注記:

  • 画像を添付するには、リスト内に gemini-pro モデルまたは gemini-pro-vision が必要です。
  • LibreChatを使用する場合、PaLM2およびCodeyモデルにはGenerative Language API経由ではなく、Vertex AI経由でのみアクセス可能です。
    • generateContent メソッドをサポートするモデルのみが、LibreChat + Gen AI API でネイティブに使用できます。
  • 添付ファイル付きのメッセージで gemini-pro-vision を選択する必要はありません。バックグラウンドで自動的に切り替えられるためです。
  • gemini-pro-vision は添付ファイルのないメッセージを受け付けないため、添付ファイルのないメッセージは自動的に gemini-pro を使用するように切り替えられます。そうしない場合、Google からエラーが返されます。
  • Google endpointを使用する場合、Vertex AIとGenerative Language APIを同時に使用することはできません。どちらか一方を選択する必要があります。
  • 一部の PaLM/Codey モデルおよび gemini-pro-vision は、maxOutputTokens が高い値に設定されていると失敗する場合があります。この問題が発生した場合は、会話パラメータを通じて値を減らしてみてください。

.env ファイルで GOOGLE_KEY=user_provided を設定すると、Vertex AI サービスアカウントの JSON キーファイルと Generative Language API キーの両方が、以下のようにフロントエンドから提供されるようになります:

image

URL Context

GoogleのURL Contextツールを使用すると、サポートされているGeminiモデルが、ユーザーメッセージに含まれるウェブページ、画像、PDFなどのURLを読み取ることができます。LibreChatでは、Google endpointのパラメータ url_context を使用してこれを有効にします。

preset:
  endpoint: google
  model: gemini-2.5-flash
  url_context: true

addParams またはパラメータのデフォルト値を使用して、Google形式のカスタム endpoint に対して有効にすることもできます:

custom:
  - name: 'Google Gateway'
    apiKey: '${GOOGLE_KEY}'
    baseURL: 'https://gateway.example.com/v1'
    models:
      default: ['gemini-2.5-flash']
    customParams:
      defaultParamsEndpoint: google
    addParams:
      url_context: true

url_context は、Gemini 2.5+ や Gemini 3.x モデルを含む、サポートされている Gemini テキストモデルで利用可能です。url_context が有効な場合、YouTube リンクは Gemini のネイティブな動画理解機能によって個別に処理されます。これは、Google の URL Context ツールが YouTube URL を直接サポートしていないためです。

Vertex AI

Vertex APIの料金とレート制限についてはこちらをご覧ください

Google LLM(Google Cloud Vertex AI経由)をセットアップするには、まずGoogle Cloudにサインアップしてください:cloud.google.com

通常、$300の開始クレジットを獲得できるため、このオプションを90日間無料で利用できます。

  1. サインアップが完了したら、Google CloudでVertex AI APIを有効にします:
  2. Vertex AI ロールを持つサービスアカウントを作成する:
    • サービスアカウントを作成するにはここをクリック
    • プロジェクトを選択または作成
    • サービスアカウントIDを入力してください(必須)。名前と説明は任意です。
      • image
    • 「Create and Continue」をクリックして、少なくとも「Vertex AI User」ロールを付与してください。
      • image
    • 「Continue/Done」をクリックします
  3. プロジェクトディレクトリに保存するためのJSONキーを作成します:
    • サービスアカウントページに戻る
    • サービスアカウントを選択してください
    • 「Keys」をクリックします
      • image
    • 「Add Key」をクリックし、「Create new key」をクリックします。
      • image
    • キータイプとしてJSONを選択し、「作成 (Create)」をクリックします
    • キーファイルをダウンロードし、名前を 'auth.json' に変更してください
    • プロジェクトディレクトリ内の /api/data/ に保存してください。
      • image

代替案: GOOGLE_SERVICE_KEY_FILEの使用

キーファイルを /api/data/auth.json に保存する代わりに、GOOGLE_SERVICE_KEY_FILE 環境変数を使用してサービスアカウントキーファイルへのパスを指定することができます。これにより、認証情報の管理方法に柔軟性が生まれます。詳細については、以下の環境変数のセクションを参照してください。

JSONキーファイルをプロジェクトディレクトリに保存すると、LibreChatインスタンスのすべてのユーザーがそれを使用できるようになります。

あるいは、以下を設定することで、フロントエンドからユーザーに提供させることも可能です:

# Note: this configures both the Vertex AI Service Account JSON key file
# and the Generative Language API key to be provided from the frontend.
GOOGLE_KEY=user_provided

また、GOOGLE_SERVICE_KEY_FILE 環境変数を使用してサービスアカウントキーファイルを指定することもできます:

# Path to the service account JSON key file
GOOGLE_SERVICE_KEY_FILE=/path/to/auth.json

# Or provide as a URL
GOOGLE_SERVICE_KEY_FILE=https://example.com/path/to/auth.json

# Or provide as stringified JSON
GOOGLE_SERVICE_KEY_FILE='{"type":"service_account","project_id":"your-project",...}'

# Or provide as base64 encoded JSON
GOOGLE_SERVICE_KEY_FILE=eyJ0eXBlIjogInNlcnZpY2VfYWNjb3VudCIsICJwcm9qZWN0X2lkIjogInlvdXItcHJvamVjdC1pZCIsIC4uLn0=

これは、OCR機能など、Vertex AI認証を必要とする機能において特に有用です。

Vertex AI APIリクエストのGoogle Cloudロケーションを指定することもできます:

# Google Cloud region for Vertex AI
GOOGLE_LOC=us-central1

# Alternative region for Gemini Image Generation (defaults to global)
GOOGLE_CLOUD_LOCATION=global

モデルリストの取得はまだサポートされていないため、使用したいモデルを .env ファイルで設定する必要があります。

利便性のため、2024年5月18日時点でGenerative Language APIで使用可能な最新モデルを以下に記載します:

GOOGLE_MODELS=gemini-1.5-flash-preview-0514,gemini-1.5-pro-preview-0514,gemini-1.0-pro-vision-001,gemini-1.0-pro-002,gemini-1.0-pro-001,gemini-pro-vision,gemini-1.0-pro

Dockerを使用している場合

Dockerを使用しており、auth.jsonファイルを提供したい場合は、docker-compose.override.ymlでボリュームをマウントする必要があります。

version: '3.4'

services:
  api:
    volumes:
      - type: bind
        source: ./api/data/auth.json
        target: /app/api/data/auth.json

Google Safety Settings

Vertex AI および Generative Language API の両方の安全設定を行うには、.env ファイルに以下を設定します。

GOOGLE_SAFETY_SEXUALLY_EXPLICIT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_HATE_SPEECH=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_HARASSMENT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_DANGEROUS_CONTENT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_CIVIC_INTEGRITY=BLOCK_ONLY_HIGH

.env ファイルに以下を設定することで、安全設定を除外することもできます。これにより、プロバイダーのデフォルト設定が使用されます。これは、特定の安全設定で問題が発生している場合に役立ちます。

GOOGLE_EXCLUDE_SAFETY_SETTINGS=true

注意: デフォルトでは BLOCK_NONE 設定にアクセスすることはできません。 この制限された HarmBlockThreshold 設定を使用するには、以下のいずれかを行う必要があります:

  • (a) Googleアカウントチームを通じて許可リスト(allowlist)によるアクセス権を取得する
  • (b) 以下の手順に従って、アカウントタイプを月次請求書払い(monthly invoiced billing)に切り替えてください: https://cloud.google.com/billing/docs/how-to/invoiced-billing

注記:

  • Google endpointは、librechat.yaml設定ファイルを通じて、Shared Endpoint Settingsのすべての設定をサポートしています。これにはstreamRateheaderstitleModeltitleMethodtitlePrompttitlePromptTemplatetitleEndpointが含まれます。

このガイドはいかがでしたか?