이 글에서는 DVC, 아마존 세이지메이커 AI, MLflow 앱을 결합하여 ML 모델의 완전한 계보를 구축하는 방법을 소개합니다. 데이터셋 수준과 레코드 수준의 두 가지 배포 가능한 패턴을 설명합니다.
이 글에서는 Qwen 2.5 7B Instruct 모델을 RLVR을 사용해 도구 호출을 위해 세밀하게 조정하는 방법을 설명합니다. 데이터셋 준비, 보상 함수 설계, 훈련 구성 및 결과 해석 등을 다룹니다.
본문에서는 Mixture of Experts (MoE) 모델에 대한 멀티-로라 추론을 구현하는 방법과 커널 수준의 최적화에 대해 설명하며, 이 작업에서 어떻게 이점을 얻을 수 있는지 보여줍니다. GPT-OSS 20B를 이 포스트 전체에서 주요 예제로 사용합니다.
아마존은 세이지메이커 스튜디오를 위한 새로운 기능인 SOCI(Seekable Open Container Initiative) 인덱싱을 소개했다. SOCI는 컨테이너 이미지의 지연 로딩을 지원하여 초기에 이미지의 필요한 부분만 다운로드하고 전체 컨테이너를 다운로드하지 않는다.
아마존 세이지메이커 AI가 EAGLE을 기반으로 한 적응형 추측 디코딩을 지원하며, 이 기술은 출력 품질을 유지하면서 대형 언어 모델 추론 속도를 최대 2.5배 가속화합니다. 이 글에서는 아마존 세이지메이커 AI에서 EAGLE 2 및 EAGLE 3 추측 디코딩을 사용하는 방법, 솔루션 아키텍처, 데이터셋 최적화 워크플로우, 그리고 증가된 처리량과 낮은 대기 시간을 보여주는 벤치마크 결과에 대해 설명합니다.
아마존 노바 커스터마이징을 통해 조직이 특정 모더레이션 요구에 맞게 모델을 세밀하게 조정할 수 있게 되었다. 세 가지 벤치마크를 통해 커스텀 노바 모델이 기준선인 노바 라이트보다 F1 점수 평균 개선률이 7.3%로 개선되었음을 확인했다.
본문에서는 SageMaker와 Comet을 함께 사용하여 완전히 관리되는 ML 환경을 구축하고 재현성과 실험 추적 기능을 갖춘 방법을 소개했다.
아마존 베드락 데이터 자동화와 세이지메이커 AI를 사용하여 다중 페이지 문서에 인간 검토 루프를 적용하는 방법을 소개합니다.
아마존 노바 캔버스가 고급 이미지 생성 기술을 통해 실제 비즈니스 문제를 해결하는 방법을 탐구합니다. 이 기술의 강력함과 유연성을 보여주는 인테리어 디자인 및 제품 사진 촬영 두 가지 구체적인 사용 사례에 초점을 맞춥니다.
