Google endpointについては、Generative Language API(Geminiモデル用)または Vertex AI API(Gemini、PaLM2、Codeyモデル用)のいずれかを使用できます。
Generative Language APIはAPIキーを使用します。これはGoogle AI Studioから取得できます。
Vertex AIを使用するには、適切なアクセス権限が設定されたサービスアカウントのJSONキーファイルが必要です。
両方の手順を以下に示します。
Generative Language API (Gemini)
Gemini APIの料金とレート制限についてはこちらをご覧ください
⚠️ Googleのモデルは無料ですが、入力/出力データはモデルの改善に使用されます。その際、データはGoogleアカウントおよびAPIキーから匿名化されます。 ⚠️ この期間中、あなたのメッセージは「トレーニングを受けたレビュアーがアクセスできる」可能性があります。
Google AI Studioを通じてGeminiモデルを使用するには、APIキーが必要です。まだお持ちでない場合は、Google AI Studioでキーを作成してください。
APIキーの取得はこちらから: aistudio.google.com
キーを取得したら、.envファイルにそのキーを設定してください。これにより、インスタンスのすべてのユーザーがそれを使用できるようになります。
GOOGLE_KEY=mY_SeCreT_w9347w8_kEYまたは、以下を設定することで、フロントエンドからユーザーに提供させることもできます:
GOOGLE_KEY=user_provided一部のリバースプロキシは X-goog-api-key ヘッダーをサポートしていません。代わりに Authorization ヘッダーを使用するように LibreChat を設定できます:
GOOGLE_AUTH_HEADER=trueモデルリストの取得はまだサポートされていないため、使用したいモデルを .env ファイルで設定する必要があります。
利便性のため、2024年5月18日時点でGenerative Language APIで使用可能な最新モデルを以下に記載します:
GOOGLE_MODELS=gemini-1.5-flash-latest,gemini-1.0-pro,gemini-1.0-pro-001,gemini-1.0-pro-latest,gemini-1.0-pro-vision-latest,gemini-1.5-pro-latest,gemini-pro,gemini-pro-vision注記:
- 画像を添付するには、リスト内に gemini-pro モデルまたは
gemini-pro-visionが必要です。 - LibreChatを使用する場合、PaLM2およびCodeyモデルにはGenerative Language API経由ではなく、Vertex AI経由でのみアクセス可能です。
generateContentメソッドをサポートするモデルのみが、LibreChat + Gen AI API でネイティブに使用できます。
- 添付ファイル付きのメッセージで
gemini-pro-visionを選択する必要はありません。バックグラウンドで自動的に切り替えられるためです。 gemini-pro-visionは添付ファイルのないメッセージを受け付けないため、添付ファイルのないメッセージは自動的にgemini-proを使用するように切り替えられます。そうしない場合、Google からエラーが返されます。- Google endpointを使用する場合、Vertex AIとGenerative Language APIを同時に使用することはできません。どちらか一方を選択する必要があります。
- 一部の PaLM/Codey モデルおよび
gemini-pro-visionは、maxOutputTokensが高い値に設定されていると失敗する場合があります。この問題が発生した場合は、会話パラメータを通じて値を減らしてみてください。
.env ファイルで GOOGLE_KEY=user_provided を設定すると、Vertex AI サービスアカウントの JSON キーファイルと Generative Language API キーの両方が、以下のようにフロントエンドから提供されるようになります:
URL Context
GoogleのURL Contextツールを使用すると、サポートされているGeminiモデルが、ユーザーメッセージに含まれるウェブページ、画像、PDFなどのURLを読み取ることができます。LibreChatでは、Google endpointのパラメータ url_context を使用してこれを有効にします。
preset:
endpoint: google
model: gemini-2.5-flash
url_context: trueaddParams またはパラメータのデフォルト値を使用して、Google形式のカスタム endpoint に対して有効にすることもできます:
custom:
- name: 'Google Gateway'
apiKey: '${GOOGLE_KEY}'
baseURL: 'https://gateway.example.com/v1'
models:
default: ['gemini-2.5-flash']
customParams:
defaultParamsEndpoint: google
addParams:
url_context: trueurl_context は、Gemini 2.5+ や Gemini 3.x モデルを含む、サポートされている Gemini テキストモデルで利用可能です。url_context が有効な場合、YouTube リンクは Gemini のネイティブな動画理解機能によって個別に処理されます。これは、Google の URL Context ツールが YouTube URL を直接サポートしていないためです。
Vertex AI
Vertex APIの料金とレート制限についてはこちらをご覧ください
Google LLM(Google Cloud Vertex AI経由)をセットアップするには、まずGoogle Cloudにサインアップしてください:cloud.google.com
通常、$300の開始クレジットを獲得できるため、このオプションを90日間無料で利用できます。
- サインアップが完了したら、Google CloudでVertex AI APIを有効にします:
- Google Cloud コンソールの Vertex AI ページ に移動します。
- プロンプトが表示されたら
Enable APIをクリックしてください
- Vertex AI ロールを持つサービスアカウントを作成する:
- サービスアカウントを作成するにはここをクリック
- プロジェクトを選択または作成
- サービスアカウントIDを入力してください(必須)。名前と説明は任意です。
- 「Create and Continue」をクリックして、少なくとも「Vertex AI User」ロールを付与してください。
- 「Continue/Done」をクリックします
- プロジェクトディレクトリに保存するためのJSONキーを作成します:
- サービスアカウントページに戻る
- サービスアカウントを選択してください
- 「Keys」をクリックします
- 「Add Key」をクリックし、「Create new key」をクリックします。
- キータイプとしてJSONを選択し、「作成 (Create)」をクリックします
- キーファイルをダウンロードし、名前を 'auth.json' に変更してください
- プロジェクトディレクトリ内の
/api/data/に保存してください。
代替案: GOOGLE_SERVICE_KEY_FILEの使用
キーファイルを /api/data/auth.json に保存する代わりに、GOOGLE_SERVICE_KEY_FILE 環境変数を使用してサービスアカウントキーファイルへのパスを指定することができます。これにより、認証情報の管理方法に柔軟性が生まれます。詳細については、以下の環境変数のセクションを参照してください。
JSONキーファイルをプロジェクトディレクトリに保存すると、LibreChatインスタンスのすべてのユーザーがそれを使用できるようになります。
あるいは、以下を設定することで、フロントエンドからユーザーに提供させることも可能です:
# Note: this configures both the Vertex AI Service Account JSON key file
# and the Generative Language API key to be provided from the frontend.
GOOGLE_KEY=user_providedまた、GOOGLE_SERVICE_KEY_FILE 環境変数を使用してサービスアカウントキーファイルを指定することもできます:
# Path to the service account JSON key file
GOOGLE_SERVICE_KEY_FILE=/path/to/auth.json
# Or provide as a URL
GOOGLE_SERVICE_KEY_FILE=https://example.com/path/to/auth.json
# Or provide as stringified JSON
GOOGLE_SERVICE_KEY_FILE='{"type":"service_account","project_id":"your-project",...}'
# Or provide as base64 encoded JSON
GOOGLE_SERVICE_KEY_FILE=eyJ0eXBlIjogInNlcnZpY2VfYWNjb3VudCIsICJwcm9qZWN0X2lkIjogInlvdXItcHJvamVjdC1pZCIsIC4uLn0=これは、OCR機能など、Vertex AI認証を必要とする機能において特に有用です。
Vertex AI APIリクエストのGoogle Cloudロケーションを指定することもできます:
# Google Cloud region for Vertex AI
GOOGLE_LOC=us-central1
# Alternative region for Gemini Image Generation (defaults to global)
GOOGLE_CLOUD_LOCATION=globalモデルリストの取得はまだサポートされていないため、使用したいモデルを .env ファイルで設定する必要があります。
利便性のため、2024年5月18日時点でGenerative Language APIで使用可能な最新モデルを以下に記載します:
GOOGLE_MODELS=gemini-1.5-flash-preview-0514,gemini-1.5-pro-preview-0514,gemini-1.0-pro-vision-001,gemini-1.0-pro-002,gemini-1.0-pro-001,gemini-pro-vision,gemini-1.0-proDockerを使用している場合
Dockerを使用しており、auth.jsonファイルを提供したい場合は、docker-compose.override.ymlでボリュームをマウントする必要があります。
version: '3.4'
services:
api:
volumes:
- type: bind
source: ./api/data/auth.json
target: /app/api/data/auth.jsonGoogle Safety Settings
Vertex AI および Generative Language API の両方の安全設定を行うには、.env ファイルに以下を設定します。
GOOGLE_SAFETY_SEXUALLY_EXPLICIT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_HATE_SPEECH=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_HARASSMENT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_DANGEROUS_CONTENT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_CIVIC_INTEGRITY=BLOCK_ONLY_HIGH.env ファイルに以下を設定することで、安全設定を除外することもできます。これにより、プロバイダーのデフォルト設定が使用されます。これは、特定の安全設定で問題が発生している場合に役立ちます。
GOOGLE_EXCLUDE_SAFETY_SETTINGS=true注意: デフォルトでは BLOCK_NONE 設定にアクセスすることはできません。
この制限された HarmBlockThreshold 設定を使用するには、以下のいずれかを行う必要があります:
- (a) Googleアカウントチームを通じて許可リスト(allowlist)によるアクセス権を取得する
- (b) 以下の手順に従って、アカウントタイプを月次請求書払い(monthly invoiced billing)に切り替えてください: https://cloud.google.com/billing/docs/how-to/invoiced-billing
注記:
- Google endpointは、
librechat.yaml設定ファイルを通じて、Shared Endpoint Settingsのすべての設定をサポートしています。これにはstreamRate、headers、titleModel、titleMethod、titlePrompt、titlePromptTemplate、titleEndpointが含まれます。
このガイドはいかがでしたか?