
Amazon SageMaker AI에서 LLM 미세 조정을 위한 EU AI 법안 요구사항 안내
이 글에서는 Amazon SageMaker AI에서 LLM 미세 조정 시 FLOPs 추적을 설정하는 방법을 소개합니다. 단일 구성 플래그로 준수 상태를 확인하고 감사 준비 문서를 생성하는 방법도 배울 수 있습니다.

이 글에서는 Amazon SageMaker AI에서 LLM 미세 조정 시 FLOPs 추적을 설정하는 방법을 소개합니다. 단일 구성 플래그로 준수 상태를 확인하고 감사 준비 문서를 생성하는 방법도 배울 수 있습니다.
MLflow를 사용하여 생산용 ML 실험 및 배포 워크플로우를 구축하는 튜토리얼. MLflow 추적 서버를 시작하고 구조화된 백엔드 및 아티팩트 저장소를 사용하여 실험을 추적하고, 중첩된 하이퍼파라미터 스윕을 통해 여러 머신러닝 모델을 훈련하고 자동화된 모델 평가 및 배포까지 진행.

기업은 MLOps 플랫폼을 개발하여 ML use case의 라이프사이클을 지원하고, 보안 제약 조건을 채택한 멀티 계정 설정에 기반한 플랫폼을 구축해야 한다.

이 글에서는 Amazon SageMaker AI를 사용하여 RAG 개발 생명주기를 실험부터 자동화까지 한 과정으로 간소화하는 방법을 안내하며, 팀이 효율적으로 실험하고 효과적으로 협업하여 지속적인 개선을 이끌어내는 데 도움이 됩니다.

MLflow는 머신러닝 라이프사이클을 관리하기 위한 강력한 오픈소스 플랫폼이다. 최근 MLflow는 대형 언어 모델(Large Language Models, LLMs)의 성능을 평가하기 위한 지원을 도입했다. 본 튜토리얼에서는 MLflow를 사용하여 LLM의 성능을 어떻게 평가하는지 살펴본다.