이 게시물에서는 Amazon SageMaker 학습 작업에서 veRL과 Ray를 사용하여 경쟁 프로그래밍을 위한 특수화된 70억 개 파라미터 모델인 CodeFu-7B를 훈련하는 방법을 보여줍니다. 이를 통해 데이터 준비, 분산 훈련 설정 및 종합적인 관측성을 다루며, 이 통합된 방법이 복잡한 강화 학습 훈련 작업에 대해 계산 규모와 개발자 경험을 모두 제공하는 방법을 소개합니다.
기업 LLM fine-tuning을 효율적이고 확장 가능한 솔루션으로 변화시키는 방법을 소개하며, 도메인 특화 응용 프로그램에서 더 나은 모델 성능을 달성하기 위한 것.
Flo Health의 의료 콘텐츠 검토에 대한 AI 적용 여정을 다룬 이 두 파트 시리즈 중 첫 번째 파트는 PoC를 살펴봅니다. 초기 솔루션, 능력 및 초기 결과를 포함한 내용을 다루며, 두 번째 파트에서는 확장 과제와 현실 세계 적용에 중점을 둡니다.
이 글에서는 Amazon Bedrock에서 Foundation Models (FMs)을 활용하여 예측 정비 솔루션을 구현하는 방법과, 아마존의 제조 장비를 사례로 들어 그 활용성을 보여줍니다. 이 솔루션은 유연하며 다른 산업에 맞게 맞춤화할 수 있습니다.
Stability AI의 Alex Gnibus와 함께 작성된 이 게시물에서 Stability AI 이미지 서비스가 Amazon Bedrock에서 이용 가능하며, Amazon Bedrock API를 통해 제공되는 사용 준비가 완료된 미디어 편집 기능을 제공합니다. 이 이미지 편집 도구는 Stability AI의 Stable Diffusion 3.5 모델(SD3.5) 및 Stable Image Core 및 Ultra 모델의 기능을 확장합니다.
Amazon Bedrock는 이제 안정성 AI 이미지 서비스를 제공하는데, 비즈니스가 이미지를 생성하고 수정하는 방법을 개선하는 9가지 도구를 제공한다. 이 기술은 Stable Diffusion 및 Stable Image 모델을 확장하여 이미지 생성 및 편집에 대해 정밀한 제어를 제공한다. 명확한 유도는 AI 시스템에 예술적 방향을 제공하는 데 중요하다. 강력한 유도는 톤과 같은 특정 요소를 제어한다.
Amazon Bedrock 사용자를 위한 체계적인 평가 방법론 소개. 이론적 프레임워크와 실용적 전략을 결합하여 데이터 과학자와 머신러닝 엔지니어가 최적의 모델 선택을 할 수 있게 함.
아마존 세이지메이커를 사용하여 GPT-OSS 모델을 세밀하게 조정하는 방법에 대한 시리즈 중 두 번째 포스팅이다. 이번 글에서는 오픈 소스 허깅페이스 라이브러리를 이용해 GPT-OSS 모델을 세밀하게 조정하는 방법을 다룬다.
AWS Summit에서 Amazon Nova foundation 모델을 위한 포괄적인 모델 사용자 정의 기능 세트를 소개했습니다. Amazon SageMaker AI에서 사용할 수 있는 준비된 레시피로, Nova Micro, Nova Lite 및 Nova Pro를 모델 훈련 수명주기 전반에 걸쳐 적응하는 데 사용할 수 있습니다. 이 게시물에서는 SageMaker 훈련 작업에서 Nova Micro를 사용자 정의하는 간소화된 방법을 소개합니다.
대형 언어 모델의 성능평가는 헷갈리거나 BLEU 점수와 같은 통계적 지표를 넘어섭니다. 실제 생성형 AI 시나리오에서 모델이 기준선이나 이전 버전보다 나은 출력물을 생성하는지 이해하는 것이 중요합니다. 특히 요약, 콘텐츠 생성과 같은 응용 분야에서 더욱 중요합니다.
이 글에서는 Amazon Bedrock를 사용하여 사용자 지정 모델의 온디맨드 배포 워크플로우를 안내하고, AWS 관리 콘솔 및 API 또는 AWS SDK를 사용한 단계별 구현 가이드를 제공합니다. 또한 Amazon Bedrock에서 사용자 지정 Amazon Nova 모델을 배포하는 데 있어 최적의 사례와 고려 사항에 대해 논의합니다.
Amazon Bedrock의 개발자 경험을 향상시키는 중요한 업데이트로 API 키가 도입되었다. API 키는 Amazon Bedrock API에 빠르게 액세스할 수 있도록 제공되어, 개발자들이 설정보다는 개발에 집중할 수 있게 인증 프로세스를 간소화한다.
SageMaker Unified Studio 및 SageMaker AI를 활용하여 대규모 언어 모델(LLMs)을 맞춤화하는 단계를 안내하며, 데이터 발견부터 SageMaker AI 분산 훈련을 통한 FMs 세밀한 조정, MLflow를 사용한 메트릭 추적, 실시간 추론을 위한 SageMaker AI 추론 모델 배포까지 엔드투엔드 과정을 다룬다. JupyterLab 노트북을 활용할 때 올바른 인스턴스 크기 선택과 디버깅의 최상의 실천법에 대해서도 논의한다.
아마존 내부 기술 팀이 아마존 노바 모델을 평가하여 추론 속도와 비용 효율성을 현저히 향상시킨 사례를 소개했다.
이제 Qwen2, Qwen2_VL, Qwen2_5_VL 아키텍처의 사용자 정의 가중치를 가져올 수 있으며, Qwen 2, 2.5 Coder, Qwen 2.5 VL, QwQ 32B와 같은 모델을 포함합니다. 이 게시물에서는 Amazon Bedrock Custom Model Import를 사용하여 Qwen 2.5 모델을 배포하는 방법을 다루며, AWS 인프라 내에서 최신 AI 기능을 효율적인 비용으로 활용할 수 있습니다.
Articul8가 일반적인 LLM을 능가하는 도메인 특화 모델로 기업용 생성적 AI를 재정의하고, Amazon SageMaker HyperPod가 이를 어떻게 가속화했는지 살펴봅니다. Articul8의 반도체 모델은 최고의 오픈 소스 모델 대비 2배 높은 정확도를 달성하며 배포 시간을 4배 단축했습니다.
맥락적 검색은 각 청크에 설명적 맥락을 추가하여 임베딩을 생성함으로써 전통적인 RAG를 향상시킨다. 이 접근 방식은 관련 맥락 정보로 벡터 표현을 보강하여 사용자 쿼리에 응답할 때 의미적으로 관련된 콘텐츠를 더 정확하게 검색할 수 있게 한다.
Anthropic에서 출시된 코딩 에이전트인 Claude Code와 Amazon Bedrock 프롬프트 캐싱을 결합하여 개발 워크플로우를 개선하는 방법을 살펴볼 것이다. 이 강력한 조합은 추론 응답 대기 시간을 줄이고 입력 토큰 비용을 절감함으로써 빠른 응답을 제공하게 된다.
최근 생산적 AI 기업들이 자사의 제품을 개발하는 데 투자함에 따라 모델 능력에서 놀라운 발전이 있었습니다. Anthropic의 Claude Opus 4 & Sonnet 4와 Amazon Bedrock의 Amazon Nova와 같은 언어 모델은 점점 더 정교하게 추론, 작성 및 응답 생성이 가능해졌습니다. 그러나 이러한 모델이 강력해지더라도, 그들은 여전히 […]
아마존 베드락 데이터 자동화는 조직이 개발을 간소화하고 효율성을 향상시키는데 도움이 됩니다. 비디오 또는 오디오에 대한 구조화되지 않은 콘텐츠 처리를 대규모로 간소화하며, 새로운 기능을 통해 비디오와 오디오에서 장면 요약, 주요 주제, 고객 의도 등을 더 빠르게 추출할 수 있게 해줍니다. 이는 영상과 오디오의 가치를 끌어내어 판매 생산성 향상 및 고객 경험 향상과 같은 사용 사례에 활용할 수 있습니다.
Amazon Bedrock에서 Meta Llama 3.2 다중 모달 모델을 파인튜닝하는 포괄적인 최상의 방법과 과학적 통찰을 공유합니다. 이 가이드라인을 따르면 작고 비용 효율적인 모델을 파인튜닝하여 더 큰 모델과 어느 정도 견줄 만한 성능을 달성할 수 있으며, 추론 비용과 지연 시간을 줄이면서도 특정 사용 사례에 대한 높은 정확도를 유지할 수 있습니다.
Amazon Bedrock Model Distillation은 Meta의 Llama 모델 패밀리와 고급 데이터 증강 기술 및 성능 향상을 강조합니다. 이 기술은 더 크고 능력 있는 Foundation 모델(FM)에서 더 작고 효율적인 모델(student)로 지식을 전이시켜 특정 작업에 뛰어난 특화 모델을 만듭니다.
AFX 팀은 Nova Lite 모델로 제품 이전하여 매출 업무 프로세스를 향상시켰습니다. 이전으로 비용 절감과 저지연을 달성하며 판매자에게 지능적이고 신뢰할 수 있는 솔루션을 제공했습니다.
Pixtral Large 모델을 Amazon Bedrock에서 시작하는 방법을 소개합니다. 이 모델은 문서 이해, 논리 추론, 필기 인식, 이미지 비교, 엔티티 추출, 스캔된 이미지에서 구조화된 데이터 추출, 캡션 생성과 같은 다양한 용도에 활용할 수 있습니다.
