Amazon Bedrock Custom Model Import를 사용하면 Amazon Bedrock로 자체 기반 모델을 가져와 규모 확장 가능한 배포 및 추론을 할 수 있습니다. 최근 Amazon Bedrock Custom Model Import를 사용할 때 성능이 크게 향상되었습니다. 엔드 투 엔드 대기 시간이 줄고, 첫 번째 토큰까지의 시간이 단축되며, 고급 PyTorch 컴파일 및 CUDA 그래프 최적화를 통해 스루풋이 향상되었습니다. 이 블로그 글에서는 Amazon Bedrock Custom Model Import의 개선 사항을 사용하는 방법을 소개합니다.

<AWS Blog 뉴스 본문 전체읽기>