Google

Para el endpoint de Google, puedes utilizar la Generative Language API (para modelos Gemini) o la Vertex AI API (para modelos Gemini, PaLM2 y Codey).

La Generative Language API utiliza una API key, la cual puedes obtener en Google AI Studio.

Para Vertex AI, necesitas un archivo de clave JSON de Service Account, con el acceso adecuado configurado.

A continuación se proporcionan instrucciones para ambos.

Generative Language API (Gemini)

Consulta aquí los precios y límites de tasa de la API de Gemini

⚠️ Aunque los modelos de Google son gratuitos, utilizan tus entradas/salidas para ayudar a mejorar el modelo, con datos desidentificados de tu cuenta de Google y tu clave API. ⚠️ Durante este período, tus mensajes “pueden ser accesibles para revisores capacitados”.

Para usar modelos de Gemini a través de Google AI Studio, necesitarás una API key. Si aún no tienes una, crea una clave en Google AI Studio.

Obtén una API key aquí: aistudio.google.com

Una vez que tengas tu clave, proporciónala en tu archivo .env, lo cual permite que todos los usuarios de tu instancia la utilicen.

GOOGLE_KEY=mY_SeCreT_w9347w8_kEY

O bien, puede hacer que los usuarios lo proporcionen desde el frontend configurando lo siguiente:

GOOGLE_KEY=user_provided

Algunos proxies inversos no admiten la cabecera X-goog-api-key. Puede configurar LibreChat para que utilice la cabecera Authorization en su lugar:

GOOGLE_AUTH_HEADER=true

Dado que la obtención de la lista de modelos aún no es compatible, debes configurar los modelos que deseas utilizar en el archivo .env.

Para su comodidad, estos son los modelos más recientes al 18/5/24 que pueden utilizarse con la Generative Language API:

GOOGLE_MODELS=gemini-1.5-flash-latest,gemini-1.0-pro,gemini-1.0-pro-001,gemini-1.0-pro-latest,gemini-1.0-pro-vision-latest,gemini-1.5-pro-latest,gemini-pro,gemini-pro-vision

Notas:

Se requiere un modelo gemini-pro o gemini-pro-vision en su lista para adjuntar imágenes.
Al usar LibreChat, los modelos PaLM2 y Codey solo pueden ser accedidos a través de Vertex AI, no mediante la Generative Language API.
- Solo los modelos que admiten el método generateContent pueden utilizarse de forma nativa con LibreChat + la API de Gen AI.
No es necesario seleccionar gemini-pro-vision para mensajes con archivos adjuntos, ya que se cambiará automáticamente en segundo plano por usted.
Dado que gemini-pro-vision no acepta mensajes sin archivos adjuntos, los mensajes sin archivos adjuntos se cambian automáticamente para usar gemini-pro, de lo contrario, Google responde con un error.
Con el endpoint de Google, no puede utilizar Vertex AI y Generative Language API al mismo tiempo. Debe elegir uno u otro.
Algunos modelos PaLM/Codey y gemini-pro-vision pueden fallar cuando maxOutputTokens se establece en un valor alto. Si encuentra este problema, intente reducir el valor a través de los parámetros de la conversación.

Configurar GOOGLE_KEY=user_provided en su archivo .env establece que tanto el archivo de clave JSON de la cuenta de servicio de Vertex AI como la clave de API de Generative Language sean proporcionados desde el frontend de la siguiente manera:

Contexto de URL

La herramienta URL Context de Google permite que los modelos Gemini compatibles lean las URLs incluidas en el mensaje del usuario, tales como páginas web, imágenes y archivos PDF. En LibreChat, habilítela con el parámetro url_context del endpoint de Google.

preset:
  endpoint: google
  model: gemini-2.5-flash
  url_context: true

También puedes habilitarlo para un endpoint personalizado con formato Google mediante addParams o parámetros predeterminados:

custom:
  - name: 'Google Gateway'
    apiKey: '${GOOGLE_KEY}'
    baseURL: 'https://gateway.example.com/v1'
    models:
      default: ['gemini-2.5-flash']
    customParams:
      defaultParamsEndpoint: google
    addParams:
      url_context: true

url_context está disponible en los modelos de texto de Gemini compatibles, incluyendo los modelos Gemini 2.5+ y Gemini 3.x. Los enlaces de YouTube se gestionan por separado con la comprensión de video nativa de Gemini cuando url_context está habilitado, debido a que la herramienta URL Context de Google no admite URLs de YouTube directamente.

Vertex AI

Consulta aquí los precios y límites de tasa de la API de Vertex

Para configurar los LLMs de Google (a través de Google Cloud Vertex AI), primero, regístrate en Google Cloud: cloud.google.com

Por lo general, puedes obtener $300 de crédito inicial, lo que hace que esta opción sea gratuita durante 90 días.

Una vez registrado, habilite la Vertex AI API en Google Cloud:
- Ve a la página de Vertex AI en Google Cloud console
- Haz clic en Enable API si se te solicita
Cree una cuenta de servicio con el rol de Vertex AI:
- Haz clic aquí para crear una cuenta de servicio
- Seleccionar o crear un proyecto
- Ingrese un ID de cuenta de servicio (obligatorio), el nombre y la descripción son opcionales
- Haz clic en "Create and Continue" para asignar al menos el rol "Vertex AI User"
- Haz clic en "Continue/Done"
Cree una clave JSON para guardar en su directorio de proyecto:
- Regresa a la página de Service Accounts
- Seleccione su cuenta de servicio
- Haz clic en "Keys"
- Haz clic en "Add Key" y luego en "Create new key"
- Elige JSON como el tipo de clave y haz clic en "Create"
- Descargue el archivo de clave y cámbiele el nombre a 'auth.json'
- Guárdalo dentro del directorio del proyecto, en /api/data/

Alternativa: Usar GOOGLE_SERVICE_KEY_FILE

En lugar de guardar el archivo de clave en /api/data/auth.json, puede utilizar la variable de entorno GOOGLE_SERVICE_KEY_FILE para especificar la ruta a su archivo de clave de cuenta de servicio. Esto proporciona más flexibilidad en la forma en que gestiona sus credenciales. Consulte la sección de variables de entorno a continuación para obtener más detalles.

Guardar su archivo de clave JSON en el directorio del proyecto, lo cual permite que todos los usuarios de su instancia de LibreChat lo utilicen.

Alternativamente, puede hacer que los usuarios lo proporcionen desde el frontend configurando lo siguiente:

# Note: this configures both the Vertex AI Service Account JSON key file
# and the Generative Language API key to be provided from the frontend.
GOOGLE_KEY=user_provided

También puede especificar el archivo de clave de cuenta de servicio utilizando la variable de entorno GOOGLE_SERVICE_KEY_FILE:

# Path to the service account JSON key file
GOOGLE_SERVICE_KEY_FILE=/path/to/auth.json

# Or provide as a URL
GOOGLE_SERVICE_KEY_FILE=https://example.com/path/to/auth.json

# Or provide as stringified JSON
GOOGLE_SERVICE_KEY_FILE='{"type":"service_account","project_id":"your-project",...}'

# Or provide as base64 encoded JSON
GOOGLE_SERVICE_KEY_FILE=eyJ0eXBlIjogInNlcnZpY2VfYWNjb3VudCIsICJwcm9qZWN0X2lkIjogInlvdXItcHJvamVjdC1pZCIsIC4uLn0=

Esto es particularmente útil para funciones que requieren autenticación de Vertex AI, como las capacidades de OCR.

También puede especificar la ubicación de Google Cloud para las solicitudes de la API de Vertex AI:

# Google Cloud region for Vertex AI
GOOGLE_LOC=us-central1

# Alternative region for Gemini Image Generation (defaults to global)
GOOGLE_CLOUD_LOCATION=global

Dado que la obtención de la lista de modelos aún no es compatible, debes configurar los modelos que deseas utilizar en el archivo .env.

Para su comodidad, estos son los modelos más recientes al 18/5/24 que pueden utilizarse con la Generative Language API:

GOOGLE_MODELS=gemini-1.5-flash-preview-0514,gemini-1.5-pro-preview-0514,gemini-1.0-pro-vision-001,gemini-1.0-pro-002,gemini-1.0-pro-001,gemini-pro-vision,gemini-1.0-pro

Si está utilizando Docker

If you're using docker and want to provide the auth.json file, you will need to also mount the volume in docker-compose.override.yml

version: '3.4'

services:
  api:
    volumes:
      - type: bind
        source: ./api/data/auth.json
        target: /app/api/data/auth.json

Configuración de seguridad de Google

Para configurar los ajustes de seguridad tanto para Vertex AI como para Generative Language API, puedes establecer lo siguiente en tu archivo .env:

GOOGLE_SAFETY_SEXUALLY_EXPLICIT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_HATE_SPEECH=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_HARASSMENT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_DANGEROUS_CONTENT=BLOCK_ONLY_HIGH
GOOGLE_SAFETY_CIVIC_INTEGRITY=BLOCK_ONLY_HIGH

También puede excluir los ajustes de seguridad configurando lo siguiente en su archivo .env, lo cual utilizará los valores predeterminados del proveedor. Esto puede ser útil si tiene problemas con ajustes de seguridad específicos.

GOOGLE_EXCLUDE_SAFETY_SETTINGS=true

NOTA: No tienes acceso al ajuste BLOCK_NONE de forma predeterminada. Para utilizar este ajuste restringido de HarmBlockThreshold, deberás realizar una de las siguientes acciones:

(a) Obtenga acceso a través de una lista de permitidos mediante su equipo de cuenta de Google
(b) Cambie su tipo de cuenta a facturación mensual siguiendo estas instrucciones: https://cloud.google.com/billing/docs/how-to/invoiced-billing

Notas:

El endpoint de Google admite todos los Shared Endpoint Settings a través del archivo de configuración librechat.yaml, incluyendo streamRate, headers, titleModel, titleMethod, titlePrompt, titlePromptTemplate y titleEndpoint.