이번 포스트에서는 아마존 베드록에서 모델 증류(Model Distillation)라는 모델 커스터마이징 기법을 활용하여, 대형 교사 모델인 아마존 노바 프리미어(Amazon Nova Premier)로부터 소형 학생 모델인 아마존 노바 마이크로(Amazon Nova Micro)로 라우팅 지능을 전이하는 방법을 소개합니다. 이 접근 방식은 추론 비용을 95% 이상 절감하고, 지연 시간을 50% 줄이는 효과를 가져오면서도 해당 작업이 요구하는 세밀한 라우팅 품질을 유지할 수 있습니다. 이러한 기술은 비디오 의미 검색의 효율성을 높이는 데 기여할 것으로 기대됩니다.

<AWS Blog 뉴스 본문 전체읽기>