아마존 SageMaker AI가 새로운 기능인 용량 인식 인스턴스 풀을 도입했습니다. 이 기능은 새로운 추론 엔드포인트와 기존 엔드포인트 모두에 적용됩니다. 사용자는 인스턴스 유형의 우선순위 목록을 정의할 수 있으며, SageMaker AI는 생성 시, 확장 시, 축소 시 용량이 제한될 때 이 목록을 자동으로 처리합니다. 이를 통해 사용자는 수동 개입 없이도 가용한 AI 인프라를 통해 엔드포인트를 프로비저닝할 수 있습니다. 이 기능은 단일 모델 엔드포인트, 추론 구성 요소 기반 엔드포인트, 비동기 추론 엔드포인트에서 사용할 수 있습니다.

<AWS Blog 뉴스 본문 전체읽기>