Struttura dell'oggetto AWS Bedrock

L'integrazione di AWS Bedrock con la tua applicazione ti consente di utilizzare senza problemi molteplici modelli di IA ospitati su AWS. Questa sezione descrive in dettaglio come configurare l'endpoint AWS Bedrock per le tue esigenze.

Esempio di configurazione

endpoints:
  bedrock:
    titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'
    streamRate: 35
    availableRegions:
      - 'us-east-1'
      - 'us-west-2'
    guardrailConfig:
      guardrailIdentifier: 'your-guardrail-id'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

Nota: L'endpoint AWS Bedrock supporta tutte le Shared Endpoint Settings, inclusi streamRate, titleModel, titleMethod, titlePrompt, titlePromptTemplate e titleEndpoint. Le impostazioni mostrate di seguito sono specifiche per Bedrock o hanno valori predefiniti specifici per Bedrock.

titleModel

Chiave:

Key	Type	Description	Example
titleModel	String	Specifica il modello da utilizzare per generare i titoli delle conversazioni.	Recommended: anthropic.claude-3-haiku-20240307-v1:0. Set to "current_model" to use the same model as the chat.

Predefinito: Non specificato

Esempio:

titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'

streamRate

Chiave:

Key	Type	Description	Example
streamRate	Number	Imposta la velocità di elaborazione di ogni nuovo token in millisecondi.	This can help stabilize processing of concurrent requests and provide smoother frontend stream rendering.

Predefinito: Non specificato

Esempio:

streamRate: 35

availableRegions

Chiave:

Key	Type	Description	Example
availableRegions	Array	Specifica le regioni AWS che desideri rendere disponibili per Bedrock.	If provided, users will see a dropdown to select the region. If not selected, the default region is used.

Predefinito: Non specificato

Esempio:

availableRegions:
  - 'us-east-1'
  - 'us-west-2'

models

Chiave:

Key	Type	Description	Example
models	Array of Strings	Specifica gli ID modello personalizzati disponibili per l'endpoint Bedrock.	When provided, these models appear in the model selector for Bedrock.

Predefinito: Non specificato (utilizza l'elenco dei modelli Bedrock predefinito)

Esempio:

endpoints:
  bedrock:
    models:
      - 'anthropic.claude-sonnet-4-20250514-v1:0'
      - 'anthropic.claude-haiku-4-20250514-v1:0'
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'

inferenceProfiles

Chiave:

Key	Type	Description	Example
inferenceProfiles	Object (Record)	Mappa gli ID dei modelli agli ARN dei profili di inferenza per l'inferenza cross-region. Le chiavi sono gli ID dei modelli e i valori sono l'ARN del profilo di inferenza o un riferimento a una variabile d'ambiente.	When a selected model matches a key, the corresponding ARN is used as the application inference profile.

Predefinito: Non specificato

Esempio:

endpoints:
  bedrock:
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_INFERENCE_PROFILE_CLAUDE_SONNET}'
      'anthropic.claude-3-7-sonnet-20250219-v1:0': 'arn:aws:bedrock:us-west-2:123456789012:application-inference-profile/abc123'

Note:

I profili di inferenza abilitano l'inferenza cross-region, consentendoti di instradare le richieste verso modelli in diverse regioni AWS.
I valori supportano l'interpolazione delle variabili d'ambiente con la sintassi ${ENV_VAR}
L'ID del modello nella chiave deve corrispondere al modello selezionato dall'utente nell'interfaccia utente (UI)
Utilizzare con il campo models per rendere disponibili gli ID dei modelli cross-region nel selettore dei modelli
Per una guida completa sulla creazione e la gestione dei profili di inferenza, consulta AWS Bedrock Inference Profiles

Esempio combinato:

endpoints:
  bedrock:
    models:
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'
      - 'us.anthropic.claude-haiku-4-20250514-v1:0'
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_CLAUDE_SONNET_PROFILE}'
      'us.anthropic.claude-haiku-4-20250514-v1:0': '${BEDROCK_CLAUDE_HAIKU_PROFILE}'

guardrailConfig

Chiave:

Key	Type	Description	Example
guardrailConfig	Object	Configurazione per AWS Bedrock Guardrails per filtrare e moderare gli input e gli output del modello.	Optional. When configured, all Bedrock requests will be validated against the specified guardrail.

Sotto-chiavi:

Key	Type	Description	Example
guardrailIdentifier	String	L'identificativo univoco del guardrail da applicare.	Required when using guardrails.
guardrailVersion	String	La versione del guardrail da utilizzare.	Required when using guardrails.
trace	String	Controlla l'output della traccia dei guardrail per il debug. Opzioni: "enabled", "enabled_full" o "disabled".	Optional. Default: "disabled"
streamProcessingMode	String	Controlla la modalità di elaborazione del flusso dei guardrail. Opzioni: "sync" o "async".	Optional. Default: "sync"

Esempio:

endpoints:
  bedrock:
    guardrailConfig:
      guardrailIdentifier: 'abc123xyz'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

Note:

I Guardrails aiutano a garantire un utilizzo responsabile dell'IA filtrando contenuti dannosi, PII e altre informazioni sensibili.
Il guardrailIdentifier può essere trovato nella console di AWS Bedrock sotto Guardrails
Imposta trace su "enabled" o "enabled_full" durante lo sviluppo per vedere quali policy di guardrail vengono attivate
Imposta streamProcessingMode su "async" per trasmettere le risposte più velocemente (a costo che il guardrail possa potenzialmente consentire il passaggio di contenuti inappropriati finché la scansione non viene completata)
Per la produzione, imposta trace su "disabled" per ridurre le dimensioni del payload della risposta

Note

L'autenticazione AWS Bedrock viene configurata tramite variabili d'ambiente. È possibile utilizzare BEDROCK_AWS_PROFILE, la catena di provider di credenziali predefinita dell'AWS SDK, BEDROCK_AWS_BEARER_TOKEN per le chiavi API di Bedrock, oppure credenziali statiche specifiche per Bedrock. Consulta la guida alla configurazione di AWS Bedrock per i dettagli.

Struttura dell'oggetto AWS Bedrock

In questa pagina