Estrutura de Objeto do AWS Bedrock

Integrar o AWS Bedrock à sua aplicação permite que você utilize perfeitamente múltiplos modelos de IA hospedados na AWS. Esta seção detalha como configurar o endpoint do AWS Bedrock para suas necessidades.

Exemplo de Configuração

endpoints:
  bedrock:
    titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'
    streamRate: 35
    availableRegions:
      - 'us-east-1'
      - 'us-west-2'
    guardrailConfig:
      guardrailIdentifier: 'your-guardrail-id'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

Nota: O endpoint do AWS Bedrock suporta todas as Shared Endpoint Settings, incluindo streamRate, titleModel, titleMethod, titlePrompt, titlePromptTemplate e titleEndpoint. As configurações mostradas abaixo são específicas para o Bedrock ou possuem padrões específicos do Bedrock.

titleModel

Chave:

Padrão: Não especificado

Exemplo:

titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'

streamRate

Chave:

Padrão: Não especificado

Exemplo:

streamRate: 35

availableRegions

Chave:

Padrão: Não especificado

Exemplo:

availableRegions:
  - 'us-east-1'
  - 'us-west-2'

models

Chave:

Padrão: Não especificado (usa a lista de modelos padrão do Bedrock)

Exemplo:

endpoints:
  bedrock:
    models:
      - 'anthropic.claude-sonnet-4-20250514-v1:0'
      - 'anthropic.claude-haiku-4-20250514-v1:0'
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'

inferenceProfiles

Chave:

Padrão: Não especificado

Exemplo:

endpoints:
  bedrock:
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_INFERENCE_PROFILE_CLAUDE_SONNET}'
      'anthropic.claude-3-7-sonnet-20250219-v1:0': 'arn:aws:bedrock:us-west-2:123456789012:application-inference-profile/abc123'

Notas:

• Perfis de inferência permitem inferência entre regiões, permitindo que você encaminhe solicitações para modelos em diferentes regiões da AWS.
• Os valores suportam interpolação de variáveis de ambiente com a sintaxe ${ENV_VAR}
• O ID do modelo na chave deve corresponder ao modelo selecionado pelo usuário na UI
• Use com o campo models para disponibilizar IDs de modelos entre regiões no seletor de modelos
• Para um guia completo sobre como criar e gerenciar perfis de inferência, veja AWS Bedrock Inference Profiles

Exemplo Combinado:

endpoints:
  bedrock:
    models:
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'
      - 'us.anthropic.claude-haiku-4-20250514-v1:0'
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_CLAUDE_SONNET_PROFILE}'
      'us.anthropic.claude-haiku-4-20250514-v1:0': '${BEDROCK_CLAUDE_HAIKU_PROFILE}'

guardrailConfig

Chave:

Sub-chaves:

Exemplo:

endpoints:
  bedrock:
    guardrailConfig:
      guardrailIdentifier: 'abc123xyz'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

Notas:

• Guardrails ajudam a garantir o uso responsável da IA ao filtrar conteúdo prejudicial, PII e outras informações sensíveis.
• O guardrailIdentifier pode ser encontrado no console do AWS Bedrock em Guardrails
• Defina trace como "enabled" ou "enabled_full" durante o desenvolvimento para ver quais políticas de guardrail são acionadas
• Defina streamProcessingMode como "async" para transmitir respostas mais rapidamente (ao custo de o guardrail possivelmente permitir a passagem de conteúdo inadequado até que sua verificação seja concluída)
• Para produção, defina trace como "disabled" para reduzir o tamanho do payload da resposta.

Notas

• A autenticação do AWS Bedrock é configurada por meio de variáveis de ambiente. Você pode usar BEDROCK_AWS_PROFILE, a cadeia de provedores de credenciais padrão do AWS SDK, BEDROCK_AWS_BEARER_TOKEN para chaves de API do Bedrock ou credenciais estáticas específicas do Bedrock. Consulte o guia de configuração do AWS Bedrock para obter detalhes.