Struktur Objek AWS Bedrock

Mengintegrasikan AWS Bedrock dengan aplikasi Anda memungkinkan Anda untuk memanfaatkan berbagai model AI yang dihosting di AWS secara mulus. Bagian ini merinci cara mengonfigurasi endpoint AWS Bedrock untuk kebutuhan Anda.

Contoh Konfigurasi

endpoints:
  bedrock:
    titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'
    streamRate: 35
    availableRegions:
      - 'us-east-1'
      - 'us-west-2'
    guardrailConfig:
      guardrailIdentifier: 'your-guardrail-id'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

Catatan: Endpoint AWS Bedrock mendukung semua Shared Endpoint Settings, termasuk streamRate, titleModel, titleMethod, titlePrompt, titlePromptTemplate, dan titleEndpoint. Pengaturan yang ditampilkan di bawah ini bersifat spesifik untuk Bedrock atau memiliki nilai default khusus Bedrock.

titleModel

Kunci:

Key	Type	Description	Example
titleModel	String	Menentukan model yang digunakan untuk membuat judul percakapan.	Recommended: anthropic.claude-3-haiku-20240307-v1:0. Set to "current_model" to use the same model as the chat.

Default: Tidak ditentukan

Contoh:

titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'

streamRate

Kunci:

Key	Type	Description	Example
streamRate	Number	Mengatur kecepatan pemrosesan setiap token baru dalam milidetik.	This can help stabilize processing of concurrent requests and provide smoother frontend stream rendering.

Default: Tidak ditentukan

Contoh:

streamRate: 35

availableRegions

Kunci:

Key	Type	Description	Example
availableRegions	Array	Menentukan region AWS yang ingin Anda sediakan untuk Bedrock.	If provided, users will see a dropdown to select the region. If not selected, the default region is used.

Default: Tidak ditentukan

Contoh:

availableRegions:
  - 'us-east-1'
  - 'us-west-2'

models

Kunci:

Key	Type	Description	Example
models	Array of Strings	Menentukan ID model kustom yang tersedia untuk endpoint Bedrock.	When provided, these models appear in the model selector for Bedrock.

Default: Tidak ditentukan (menggunakan daftar model Bedrock default)

Contoh:

endpoints:
  bedrock:
    models:
      - 'anthropic.claude-sonnet-4-20250514-v1:0'
      - 'anthropic.claude-haiku-4-20250514-v1:0'
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'

inferenceProfiles

Kunci:

Key	Type	Description	Example
inferenceProfiles	Object (Record)	Memetakan ID model ke ARN profil inferensi untuk inferensi lintas wilayah. Kunci adalah ID model dan nilai adalah ARN profil inferensi atau referensi variabel lingkungan.	When a selected model matches a key, the corresponding ARN is used as the application inference profile.

Default: Tidak ditentukan

Contoh:

endpoints:
  bedrock:
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_INFERENCE_PROFILE_CLAUDE_SONNET}'
      'anthropic.claude-3-7-sonnet-20250219-v1:0': 'arn:aws:bedrock:us-west-2:123456789012:application-inference-profile/abc123'

Catatan:

Inference profiles memungkinkan inferensi lintas wilayah, yang memungkinkan Anda untuk merutekan permintaan ke model di wilayah AWS yang berbeda.
Nilai mendukung interpolasi variabel lingkungan dengan sintaks ${ENV_VAR}
ID model dalam kunci harus sesuai dengan model yang dipilih oleh pengguna di UI
Gunakan dengan kolom models untuk membuat ID model lintas wilayah tersedia di pemilih model
Untuk panduan lengkap mengenai pembuatan dan pengelolaan profil inferensi, lihat AWS Bedrock Inference Profiles

Contoh Gabungan:

endpoints:
  bedrock:
    models:
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'
      - 'us.anthropic.claude-haiku-4-20250514-v1:0'
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_CLAUDE_SONNET_PROFILE}'
      'us.anthropic.claude-haiku-4-20250514-v1:0': '${BEDROCK_CLAUDE_HAIKU_PROFILE}'

guardrailConfig

Kunci:

Key	Type	Description	Example
guardrailConfig	Object	Konfigurasi untuk AWS Bedrock Guardrails guna memfilter dan memoderasi input serta output model.	Optional. When configured, all Bedrock requests will be validated against the specified guardrail.

Sub-kunci:

Key	Type	Description	Example
guardrailIdentifier	String	Pengidentifikasi unik guardrail yang akan diterapkan.	Required when using guardrails.
guardrailVersion	String	Versi guardrail yang akan digunakan.	Required when using guardrails.
trace	String	Mengontrol output jejak guardrail untuk debugging. Opsi: "enabled", "enabled_full", atau "disabled".	Optional. Default: "disabled"
streamProcessingMode	String	Mengontrol mode pemrosesan stream guardrail. Opsi: "sync" atau "async".	Optional. Default: "sync"

Contoh:

endpoints:
  bedrock:
    guardrailConfig:
      guardrailIdentifier: 'abc123xyz'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

Catatan:

Guardrails membantu memastikan penggunaan AI yang bertanggung jawab dengan memfilter konten berbahaya, PII, dan informasi sensitif lainnya.
guardrailIdentifier dapat ditemukan di konsol AWS Bedrock di bawah Guardrails
Atur trace ke "enabled" atau "enabled_full" selama pengembangan untuk melihat kebijakan guardrail mana yang dipicu
Atur streamProcessingMode ke "async" untuk melakukan streaming respons lebih cepat (dengan risiko guardrail mungkin membiarkan konten yang tidak pantas lolos hingga pemindaiannya selesai)
Untuk produksi, atur trace ke "disabled" guna mengurangi ukuran payload respons

Catatan

Autentikasi AWS Bedrock dikonfigurasi melalui variabel lingkungan. Anda dapat menggunakan BEDROCK_AWS_PROFILE, rantai penyedia kredensial default AWS SDK, BEDROCK_AWS_BEARER_TOKEN untuk kunci API Bedrock, atau kredensial statis khusus Bedrock. Lihat panduan pengaturan AWS Bedrock untuk detailnya.

Struktur Objek AWS Bedrock

Di halaman ini