SageMaker AI 추론 엔드포인트 배포 시 GPU 용량 설정하기
이번 포스트에서는 SageMaker AI 추론 엔드포인트를 배포하는 과정에서 GPU 용량을 설정하는 방법에 대해 다룹니다. 먼저, 사용 가능한 p-family GPU 용량을 검색하는 방법을 소개하고, 추론을 위한 훈련 계획 예약을 생성하는 절차를 설명합니다. 이어서 예약된 용량을 기반으로 SageMaker AI 추론 엔드포인트를 배포하는 방법을 안내합니다. 이 과정에서는 데이터 과학자가 모델 평가를 위해 용량을 예약하고, 예약 생애 주기 동안 엔드포인트를 관리하는 여정을 따라가게 됩니다.
출처: AWS Blog
요약번역: 미주투데이 최정민 기자