AWS Bedrock 객체 구조

AWS Bedrock을 애플리케이션에 통합하면 AWS에서 호스팅되는 여러 AI 모델을 원활하게 활용할 수 있습니다. 이 섹션에서는 필요에 따라 AWS Bedrock endpoint를 구성하는 방법을 자세히 설명합니다.

예시 구성

endpoints:
  bedrock:
    titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'
    streamRate: 35
    availableRegions:
      - 'us-east-1'
      - 'us-west-2'
    guardrailConfig:
      guardrailIdentifier: 'your-guardrail-id'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

참고: AWS Bedrock endpoint는 streamRate, titleModel, titleMethod, titlePrompt, titlePromptTemplate, titleEndpoint를 포함한 모든 Shared Endpoint Settings을 지원합니다. 아래 표시된 설정은 Bedrock 전용이거나 Bedrock에 특화된 기본값을 가지고 있습니다.

titleModel

키:

Key	Type	Description	Example
titleModel	String	대화 제목 생성에 사용할 모델을 지정합니다.	Recommended: anthropic.claude-3-haiku-20240307-v1:0. Set to "current_model" to use the same model as the chat.

기본값: 지정되지 않음

예시:

titleModel: 'anthropic.claude-3-haiku-20240307-v1:0'

streamRate

키:

Key	Type	Description	Example
streamRate	Number	각 새 토큰을 처리하는 속도를 밀리초 단위로 설정합니다.	This can help stabilize processing of concurrent requests and provide smoother frontend stream rendering.

기본값: 지정되지 않음

예시:

streamRate: 35

availableRegions

키:

Key	Type	Description	Example
availableRegions	Array	Bedrock에서 사용할 AWS 리전을 지정합니다.	If provided, users will see a dropdown to select the region. If not selected, the default region is used.

기본값: 지정되지 않음

예시:

availableRegions:
  - 'us-east-1'
  - 'us-west-2'

models

키:

Key	Type	Description	Example
models	Array of Strings	Bedrock endpoint에서 사용할 수 있는 사용자 지정 모델 ID를 지정합니다.	When provided, these models appear in the model selector for Bedrock.

기본값: 지정되지 않음 (기본 Bedrock 모델 목록을 사용함)

예시:

endpoints:
  bedrock:
    models:
      - 'anthropic.claude-sonnet-4-20250514-v1:0'
      - 'anthropic.claude-haiku-4-20250514-v1:0'
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'

inferenceProfiles

키:

Key	Type	Description	Example
inferenceProfiles	Object (Record)	교차 리전 추론을 위해 모델 ID를 추론 프로필 ARN에 매핑합니다. 키는 모델 ID이며 값은 추론 프로필 ARN 또는 환경 변수 참조입니다.	When a selected model matches a key, the corresponding ARN is used as the application inference profile.

기본값: 지정되지 않음

예시:

endpoints:
  bedrock:
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_INFERENCE_PROFILE_CLAUDE_SONNET}'
      'anthropic.claude-3-7-sonnet-20250219-v1:0': 'arn:aws:bedrock:us-west-2:123456789012:application-inference-profile/abc123'

참고:

Inference profiles는 교차 리전 추론을 활성화하여, 서로 다른 AWS 리전에 있는 모델로 요청을 라우팅할 수 있도록 합니다.
값은 ${ENV_VAR} 구문을 사용한 환경 변수 보간(interpolation)을 지원합니다.
키의 모델 ID는 UI에서 사용자가 선택한 모델과 일치해야 합니다.
models 필드와 함께 사용하여 교차 리전(cross-region) 모델 ID를 모델 선택기에서 사용할 수 있도록 합니다.
추론 프로필 생성 및 관리에 대한 전체 가이드는 AWS Bedrock Inference Profiles를 참조하세요.

결합된 예시:

endpoints:
  bedrock:
    models:
      - 'us.anthropic.claude-sonnet-4-20250514-v1:0'
      - 'us.anthropic.claude-haiku-4-20250514-v1:0'
    inferenceProfiles:
      'us.anthropic.claude-sonnet-4-20250514-v1:0': '${BEDROCK_CLAUDE_SONNET_PROFILE}'
      'us.anthropic.claude-haiku-4-20250514-v1:0': '${BEDROCK_CLAUDE_HAIKU_PROFILE}'

guardrailConfig

키:

Key	Type	Description	Example
guardrailConfig	Object	모델 입력 및 출력을 필터링하고 조정하기 위한 AWS Bedrock Guardrails 구성입니다.	Optional. When configured, all Bedrock requests will be validated against the specified guardrail.

하위 키:

Key	Type	Description	Example
guardrailIdentifier	String	적용할 가드레일의 고유 식별자입니다.	Required when using guardrails.
guardrailVersion	String	사용할 가드레일 버전입니다.	Required when using guardrails.
trace	String	디버깅을 위한 가드레일 추적 출력을 제어합니다. 옵션: "enabled", "enabled_full", 또는 "disabled".	Optional. Default: "disabled"
streamProcessingMode	String	가드레일 스트림 처리 모드를 제어합니다. 옵션: "sync" 또는 "async".	Optional. Default: "sync"

예시:

endpoints:
  bedrock:
    guardrailConfig:
      guardrailIdentifier: 'abc123xyz'
      guardrailVersion: '1'
      trace: 'enabled'
      streamProcessingMode: 'sync'

참고:

Guardrails는 유해한 콘텐츠, PII 및 기타 민감한 정보를 필터링하여 책임감 있는 AI 사용을 보장하도록 돕습니다.
guardrailIdentifier는 AWS Bedrock 콘솔의 Guardrails에서 찾을 수 있습니다.
개발 중에 어떤 가드레일 정책이 트리거되는지 확인하려면 trace를 "enabled" 또는 "enabled_full"로 설정하세요.
streamProcessingMode를 "async"로 설정하면 응답을 더 빠르게 스트리밍할 수 있습니다(단, 가드레일 검사가 완료되기 전까지 부적절한 콘텐츠가 통과될 가능성이 있습니다).
프로덕션 환경에서는 응답 페이로드 크기를 줄이기 위해 trace를 "disabled"로 설정하세요.

참고 사항

AWS Bedrock 인증은 환경 변수를 통해 구성됩니다. BEDROCK_AWS_PROFILE, AWS SDK 기본 자격 증명 공급자 체인, Bedrock API 키를 위한 BEDROCK_AWS_BEARER_TOKEN, 또는 Bedrock 전용 정적 자격 증명을 사용할 수 있습니다. 자세한 내용은 AWS Bedrock 설정 가이드를 참조하세요.