Struktura obiektu AWS Bedrock

Integracja AWS Bedrock z Twoją aplikacją pozwala na płynne korzystanie z wielu modeli AI hostowanych w AWS. Ta sekcja szczegółowo opisuje, jak skonfigurować endpoint AWS Bedrock zgodnie z Twoimi potrzebami.

Przykładowa konfiguracja

endpoints:
  bedrock:
    titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'
    streamRate: 35
    availableRegions:
      - 'us-east-1'
      - 'us-west-2'
    guardrailConfig:
      guardrailIdentifier: 'your-guardrail-id'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

Uwaga: Punkt końcowy AWS Bedrock obsługuje wszystkie Shared Endpoint Settings, w tym streamRate, titleModel, titleMethod, titlePrompt, titlePromptTemplate oraz titleEndpoint. Ustawienia przedstawione poniżej są specyficzne dla Bedrock lub posiadają wartości domyślne właściwe dla Bedrock.

titleModel

Klucz:

Key	Type	Description	Example
titleModel	String	Określa model używany do generowania tytułów konwersacji.	Recommended: anthropic.claude-3-haiku-20240307-v1:0. Set to "current_model" to use the same model as the chat.

Domyślnie: Nie określono

Przykład:

titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'

streamRate

Klucz:

Key	Type	Description	Example
streamRate	Number	Ustawia szybkość przetwarzania każdego nowego tokena w milisekundach.	This can help stabilize processing of concurrent requests and provide smoother frontend stream rendering.

Domyślnie: Nie określono

Przykład:

streamRate: 35

availableRegions

Klucz:

Key	Type	Description	Example
availableRegions	Array	Określa regiony AWS, które chcesz udostępnić dla Bedrock.	If provided, users will see a dropdown to select the region. If not selected, the default region is used.

Domyślnie: Nie określono

Przykład:

availableRegions:
  - 'us-east-1'
  - 'us-west-2'

models

Klucz:

Key	Type	Description	Example
models	Array of Strings	Określa niestandardowe identyfikatory modeli dostępne dla endpointu Bedrock.	When provided, these models appear in the model selector for Bedrock.

Domyślnie: Nie określono (używa domyślnej listy modeli Bedrock)

Przykład:

endpoints:
  bedrock:
    models:
      - 'anthropic.claude-sonnet-4-20250514-v1:0'
      - 'anthropic.claude-haiku-4-20250514-v1:0'
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'

inferenceProfiles

Klucz:

Key	Type	Description	Example
inferenceProfiles	Object (Record)	Mapuje identyfikatory modeli na ARN profili wnioskowania dla wnioskowania międzyregionalnego. Kluczami są identyfikatory modeli, a wartościami są ARN profilu wnioskowania lub odniesienie do zmiennej środowiskowej.	When a selected model matches a key, the corresponding ARN is used as the application inference profile.

Domyślnie: Nie określono

Przykład:

endpoints:
  bedrock:
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_INFERENCE_PROFILE_CLAUDE_SONNET}'
      'anthropic.claude-3-7-sonnet-20250219-v1:0': 'arn:aws:bedrock:us-west-2:123456789012:application-inference-profile/abc123'

Uwagi:

Profile wnioskowania (inference profiles) umożliwiają wnioskowanie między regionami, pozwalając na kierowanie zapytań do modeli w różnych regionach AWS.
Wartości obsługują interpolację zmiennych środowiskowych przy użyciu składni ${ENV_VAR}
Identyfikator modelu w kluczu musi być zgodny z modelem wybranym przez użytkownika w interfejsie użytkownika (UI).
Użyj z polem models, aby udostępnić identyfikatory modeli między regionami w selektorze modeli
Aby uzyskać pełny przewodnik na temat tworzenia i zarządzania profilami wnioskowania (inference profiles), zobacz AWS Bedrock Inference Profiles

Połączony przykład:

endpoints:
  bedrock:
    models:
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'
      - 'us.anthropic.claude-haiku-4-20250514-v1:0'
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_CLAUDE_SONNET_PROFILE}'
      'us.anthropic.claude-haiku-4-20250514-v1:0': '${BEDROCK_CLAUDE_HAIKU_PROFILE}'

guardrailConfig

Klucz:

Key	Type	Description	Example
guardrailConfig	Object	Konfiguracja dla AWS Bedrock Guardrails w celu filtrowania i moderowania danych wejściowych oraz wyjściowych modelu.	Optional. When configured, all Bedrock requests will be validated against the specified guardrail.

Podklucze:

Key	Type	Description	Example
guardrailIdentifier	String	Unikalny identyfikator bariery ochronnej (guardrail), który ma zostać zastosowany.	Required when using guardrails.
guardrailVersion	String	Wersja bariery ochronnej (guardrail), której należy użyć.	Required when using guardrails.
trace	String	Steruje danymi wyjściowymi śledzenia guardrail w celach debugowania. Opcje: "enabled", "enabled_full" lub "disabled".	Optional. Default: "disabled"
streamProcessingMode	String	Kontroluje tryb przetwarzania strumieniowego guardrail. Opcje: "sync" lub "async".	Optional. Default: "sync"

Przykład:

endpoints:
  bedrock:
    guardrailConfig:
      guardrailIdentifier: 'abc123xyz'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

Uwagi:

Guardrails pomagają zapewnić odpowiedzialne korzystanie z AI poprzez filtrowanie szkodliwych treści, danych PII oraz innych wrażliwych informacji.
guardrailIdentifier można znaleźć w konsoli AWS Bedrock w sekcji Guardrails
Ustaw trace na "enabled" lub "enabled_full" podczas programowania, aby zobaczyć, które polityki guardrail są wyzwalane
Ustaw streamProcessingMode na "async", aby szybciej przesyłać odpowiedzi (kosztem tego, że mechanizmy ochronne mogą przepuścić nieodpowiednie treści, zanim skanowanie zostanie zakończone)
W środowisku produkcyjnym ustaw trace na "disabled", aby zmniejszyć rozmiar ładunku odpowiedzi.

Uwagi

Uwierzytelnianie AWS Bedrock jest konfigurowane za pomocą zmiennych środowiskowych. Możesz użyć BEDROCK_AWS_PROFILE, domyślnego łańcucha dostawców poświadczeń AWS SDK, BEDROCK_AWS_BEARER_TOKEN dla kluczy API Bedrock lub statycznych poświadczeń specyficznych dla Bedrock. Szczegółowe informacje znajdują się w przewodniku konfiguracji AWS Bedrock.

Struktura obiektu AWS Bedrock

Na tej stronie