Estructura del objeto AWS Bedrock

Integrar AWS Bedrock con su aplicación le permite utilizar sin problemas múltiples modelos de IA alojados en AWS. Esta sección detalla cómo configurar el endpoint de AWS Bedrock para sus necesidades.

Ejemplo de configuración

endpoints:
  bedrock:
    titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'
    streamRate: 35
    availableRegions:
      - 'us-east-1'
      - 'us-west-2'
    guardrailConfig:
      guardrailIdentifier: 'your-guardrail-id'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

Nota: El endpoint de AWS Bedrock admite todos los Shared Endpoint Settings, incluidos streamRate, titleModel, titleMethod, titlePrompt, titlePromptTemplate y titleEndpoint. Los ajustes que se muestran a continuación son específicos de Bedrock o tienen valores predeterminados específicos de Bedrock.

titleModel

Clave:

Key	Type	Description	Example
titleModel	String	Especifica el modelo a utilizar para generar los títulos de las conversaciones.	Recommended: anthropic.claude-3-haiku-20240307-v1:0. Set to "current_model" to use the same model as the chat.

Predeterminado: No especificado

Ejemplo:

titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'

streamRate

Clave:

Key	Type	Description	Example
streamRate	Number	Establece la tasa de procesamiento de cada nuevo token en milisegundos.	This can help stabilize processing of concurrent requests and provide smoother frontend stream rendering.

Predeterminado: No especificado

Ejemplo:

streamRate: 35

availableRegions

Clave:

Key	Type	Description	Example
availableRegions	Array	Especifica las regiones de AWS que deseas habilitar para Bedrock.	If provided, users will see a dropdown to select the region. If not selected, the default region is used.

Predeterminado: No especificado

Ejemplo:

availableRegions:
  - 'us-east-1'
  - 'us-west-2'

models

Clave:

Key	Type	Description	Example
models	Array of Strings	Especifica los IDs de modelo personalizados disponibles para el endpoint Bedrock.	When provided, these models appear in the model selector for Bedrock.

Predeterminado: No especificado (utiliza la lista de modelos de Bedrock predeterminada)

Ejemplo:

endpoints:
  bedrock:
    models:
      - 'anthropic.claude-sonnet-4-20250514-v1:0'
      - 'anthropic.claude-haiku-4-20250514-v1:0'
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'

inferenceProfiles

Clave:

Key	Type	Description	Example
inferenceProfiles	Object (Record)	Asigna IDs de modelo a ARNs de perfiles de inferencia para inferencia entre regiones. Las claves son los IDs de modelo y los valores son el ARN del perfil de inferencia o una referencia a una variable de entorno.	When a selected model matches a key, the corresponding ARN is used as the application inference profile.

Predeterminado: No especificado

Ejemplo:

endpoints:
  bedrock:
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_INFERENCE_PROFILE_CLAUDE_SONNET}'
      'anthropic.claude-3-7-sonnet-20250219-v1:0': 'arn:aws:bedrock:us-west-2:123456789012:application-inference-profile/abc123'

Notas:

Los perfiles de inferencia permiten la inferencia entre regiones, lo que le permite enrutar solicitudes a modelos en diferentes regiones de AWS.
Los valores admiten la interpolación de variables de entorno con la sintaxis ${ENV_VAR}
El ID del modelo en la clave debe coincidir con el modelo seleccionado por el usuario en la UI
Úselo con el campo models para que los IDs de modelos entre regiones estén disponibles en el selector de modelos
Para obtener una guía completa sobre la creación y gestión de perfiles de inferencia, consulte AWS Bedrock Inference Profiles

Ejemplo combinado:

endpoints:
  bedrock:
    models:
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'
      - 'us.anthropic.claude-haiku-4-20250514-v1:0'
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_CLAUDE_SONNET_PROFILE}'
      'us.anthropic.claude-haiku-4-20250514-v1:0': '${BEDROCK_CLAUDE_HAIKU_PROFILE}'

guardrailConfig

Clave:

Key	Type	Description	Example
guardrailConfig	Object	Configuración para AWS Bedrock Guardrails para filtrar y moderar las entradas y salidas del modelo.	Optional. When configured, all Bedrock requests will be validated against the specified guardrail.

Sub-claves:

Key	Type	Description	Example
guardrailIdentifier	String	El identificador único del guardrail a aplicar.	Required when using guardrails.
guardrailVersion	String	La versión del guardrail a utilizar.	Required when using guardrails.
trace	String	Controla la salida de seguimiento de guardrail para la depuración. Opciones: "enabled", "enabled_full" o "disabled".	Optional. Default: "disabled"
streamProcessingMode	String	Controla el modo de procesamiento de flujo de guardrail. Opciones: "sync" o "async".	Optional. Default: "sync"

Ejemplo:

endpoints:
  bedrock:
    guardrailConfig:
      guardrailIdentifier: 'abc123xyz'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

Notas:

Los Guardrails ayudan a garantizar un uso responsable de la IA al filtrar contenido dañino, PII y otra información sensible.
El guardrailIdentifier se puede encontrar en la consola de AWS Bedrock bajo Guardrails
Establece trace en "enabled" o "enabled_full" durante el desarrollo para ver qué políticas de guardrail se activan
Establezca streamProcessingMode en "async" para transmitir respuestas más rápido (a costa de que el sistema de protección posiblemente permita contenido inapropiado hasta que se complete su análisis)
Para producción, establezca trace en "disabled" para reducir el tamaño de la carga útil de la respuesta.

Notas

La autenticación de AWS Bedrock se configura a través de variables de entorno. Puede utilizar BEDROCK_AWS_PROFILE, la cadena de proveedores de credenciales predeterminada del AWS SDK, BEDROCK_AWS_BEARER_TOKEN para claves de API de Bedrock, o credenciales estáticas específicas de Bedrock. Consulte la guía de configuración de AWS Bedrock para obtener más detalles.