Salesforce의 모델 엔드포인트 최적화하기 – Amazon SageMaker AI 추론 구성 요소로

Salesforce의 AI 플랫폼팀은 Amazon SageMaker AI를 사용하여 GPU 활용률을 최적화하고 리소스 효율성을 향상시키며 비용을 절감했다. 특히 추론 구성 요소를 사용하여 성능을 향상시키고 비용을 절감했다. 이를 통해 Salesforce는 더 나은 인프라 효율성을 달성하고 모델 엔드포인트의 성능을 향상시켰다. 이러한 과정을 통해 Salesforce는 Amazon SageMaker의 강력한 AI 기능을 최대한 활용하고 비즈니스에 실질적인 가치를 제공했다.
출처: AWS Blog
요약번역: 미주투데이 최정민 기자