뱅가드는 AI 준비 데이터의 여덟 가지 원칙을 바탕으로 가상 분석가 솔루션을 구축했습니다. AWS 서비스의 활용과 함께 이들이 달성한 비즈니스 성과를 살펴봅니다.

이 글에서는 아마존 베드록 에이전트코어 런타임에서 서버리스 MCP 프록시를 배포하는 방법을 소개합니다. 이를 통해 조직의 보안 정책에 맞춘 거버넌스와 제어, 관찰 가능성을 구현할 수 있습니다.

이 글에서는 Amazon Nova 2 Sonic을 사용하여 전통적인 텍스트 에이전트를 대화형 음성 비서로 전환하는 과정에 대해 설명합니다. 텍스트와 음성 에이전트의 요구 사항을 비교하고, 다양한 사용 사례에 대한 디자인 우선 순위를 강조합니다.

NVIDIA는 오늘 아마존 세이지메이커 점프스타트에서 Nemotron 3 Nano Omni 모델의 출시를 발표했다. 이 모델의 아키텍처와 주요 기능, 기업 활용 사례 및 배포 방법에 대해 설명한다.

이 글에서는 아마존 퀵을 활용하여 AI 기반의 첫 번째 워크플로우를 구축하는 방법을 소개합니다. 재무 분석 도구에서 시작해 고급 직원 온보딩 자동화로 발전하는 과정을 다룹니다.

이 글에서는 S3 이벤트를 감지하고 수집 작업을 트리거하는 자동화 솔루션을 소개합니다. 이 서버리스 솔루션은 이벤트 기반 아키텍처를 활용하여 아마존 베드록 API에 과부하를 주지 않으면서 지식 기반을 최신 상태로 유지합니다.

이 글에서는 SageMaker AI 엔드포인트에 배포된 모델을 사용하여 Strands Agents SDK로 AI 에이전트를 구축하는 방법을 설명합니다.

Popsa는 아마존 베드록과 노바 모델을 활용해 개인화된 제목 제안 기능을 혁신했습니다. 이를 통해 12개 언어로 창의적이고 브랜드에 맞는 제목과 부제를 자동 생성하고, 고객 만족도를 높였습니다.

Visier Workforce AI 플랫폼과 아마존 퀵을 연결하여 지식 근로자들이 질문할 수 있는 통합된 작업 공간을 제공하는 방법을 소개합니다.

아마존 퀵은 사용자가 몇 분 안에 설정할 수 있으며, 데이터와 도구를 연결해 개인화된 지식 그래프를 생성합니다. 이를 통해 마케팅 전략을 보다 효율적으로 수립할 수 있습니다.

이번 포스트에서는 다양한 생물학적 기초 모델(BioFMs)의 작동 방식과 약물 발견 및 임상 개발에서의 실제 적용 사례를 살펴봅니다. 또한 AWS가 이러한 모델을 구축하고 배포하는 데 어떻게 기여하는지 설명합니다.

이 글에서는 Amazon S3에 업로드된 오디오 파일을 자동으로 처리하는 확장 가능한 전사 파이프라인 구축 방법을 소개합니다. 또한, 비용 절감을 위한 Amazon EC2 스팟 인스턴스와 버퍼링 스트리밍 추론 사용법도 설명합니다.

아마존 세이지메이커 AI가 최적화된 생성적 AI 추론 추천을 지원합니다. 이를 통해 검증된 최적 배포 구성과 성능 지표를 제공하여 모델 개발자들이 인프라 관리가 아닌 정확한 모델 구축에 집중할 수 있도록 돕습니다.

아마존 베드록 에이전트코어가 에이전트 구축 경험을 간소화하는 새로운 기능을 도입했습니다. 이로 인해 에이전트 개발의 모든 단계에서 인프라 장벽이 제거됩니다.

아마존 베드록이 아마존 넵튠과 메모0를 통해 기업 맞춤형 메모리 기능을 제공한다. 이를 통해 AI 에이전트는 지속적인 기업-specific 맥락을 학습하고 적응하며, 고객과의 대화에서 지능적으로 반응할 수 있다.

아마존 베드록에서 클로드 코워크와 클로드 코드 데스크탑을 직접 실행할 수 있게 되었습니다. 이 포스트에서는 클로드 코워크가 아마존 베드록과 통합되는 방식과 지식 근로자들이 이를 실제로 활용하는 예시를 소개합니다.

이 글에서는 DVC, 아마존 세이지메이커 AI, MLflow 앱을 결합하여 ML 모델의 완전한 계보를 구축하는 방법을 소개합니다. 데이터셋 수준과 레코드 수준의 두 가지 배포 가능한 패턴을 설명합니다.

아마존 세이지메이커에서 NVIDIA RTX PRO 6000 GPU를 탑재한 G7e 인스턴스를 출시했습니다. 이 인스턴스는 강력한 오픈 소스 모델을 호스팅할 수 있는 비용 효율적인 옵션을 제공합니다.

ToolSimulator는 Strands Evals 내에서 AI 에이전트를 안전하게 테스트할 수 있는 LLM 기반 도구 시뮬레이션 프레임워크입니다. 이를 통해 실시간 API 호출의 위험 없이 에이전트를 검증할 수 있습니다.

이번 포스트에서는 아마존 베드록 에이전트코어와 아마존 노바 2 소닉을 이용해 효과적인 옴니채널 주문 시스템을 구축하는 방법을 소개합니다.

아마존 베드록의 세분화된 비용 할당 기능에 대해 설명하며, 다양한 비용 추적 시나리오를 예시로 제공합니다.

아마존 베드록의 모델 증류 기법을 활용해 대형 모델의 지능을 소형 모델로 전이하는 방법을 소개합니다. 이 방식은 추론 비용을 95% 이상 절감하고 지연 시간을 50% 줄이면서도 높은 품질의 라우팅을 유지합니다.

아마존 베드록을 활용해 노바 멀티모달 임베딩으로 동영상 의미 검색 솔루션을 구축하는 방법을 소개합니다. 사용자 의도를 이해하고 다양한 신호 유형에서 정확한 동영상 결과를 검색할 수 있습니다.

이 가이드는 Amazon Nova Forge SDK를 사용하여 Nova 모델을 미세 조정하는 모든 단계를 안내합니다. 데이터 준비부터 훈련, 평가까지 반복 가능한 방법을 제공합니다.

AWS 마케팅의 기술, AI 및 분석 팀이 Gradial과 협력하여 Amazon Bedrock 기반의 에이전틱 AI 솔루션을 개발해 콘텐츠 게시 작업의 효율성을 높였습니다.

이번 포스트에서는 Amazon Nova Micro를 활용해 맞춤형 SQL 방언 생성을 위한 두 가지 접근 방식을 소개합니다. 비용 효율성과 생산 준비 성능을 동시에 달성하는 방법을 설명합니다.

온라인 소매업체들은 고객이 온라인에서 상품을 주문할 때 적합성과 외관을 판단하기 어려워 반품이 증가하고 구매 신뢰도가 낮아지는 문제에 직면해 있습니다. AWS의 생성 AI 서비스가 이러한 문제를 해결할 수 있는 방법을 제시합니다.

이 글에서는 규제 산업에서 확률적 AI 검증의 한계를 설명하고, 아마존 베드록의 자동 추론 검사가 수학적으로 검증된 결과를 제공하는 방법을 소개합니다.

아마존 퀵사이트에서 대시보드 작성자가 자유롭게 디자인할 수 있는 맞춤형 툴팁 레이아웃 기능을 발표했습니다. 이 기능은 데이터 포인트에 마우스를 올리면 동적으로 표시됩니다.

이 글에서는 AWS Trainium2에서 추측적 디코딩이 어떻게 작동하는지와 생성된 토큰당 비용을 줄이는 데 어떻게 도움이 되는지를 설명합니다.

Rede Mater Dei de Saúde의 전문가들이 다수의 AI 시스템이 의료 분야의 운영 방식을 변화시키고 있다고 전했습니다. 이들은 수익 주기에서 AI 에이전트를 모니터링하는 방법에 대해 논의했습니다.

AWS는 생성적 AI 이니셔티브를 개념에서 생산 및 지속 가능한 가치 창출로 전환하는 데 도움을 주는 ‘Path-to-Value’ 프레임워크를 소개합니다.

아마존은 SageMaker JumpStart의 최적화된 배포 기능을 출시했다고 발표했다. 이 기능은 특정 사용 사례에 맞춘 사전 정의된 배포 구성을 제공하여 배포 커스터마이징을 간소화한다.

Amazon SageMaker HyperPod는 추론 작업을 위한 포괄적인 솔루션을 제공합니다. 이 글에서는 동적 확장, 간소화된 배포, 지능형 자원 관리 등의 주요 기능을 소개합니다.

가이드슬리는 AWS를 활용해 AI 기반의 여행 보고서 생성 시스템인 Jack AI를 개발했습니다. 이 시스템은 여행 미디어를 수집하고, 맥락을 추가하며, 컴퓨터 비전과 생성 AI를 적용해 마케팅에 적합한 콘텐츠를 여러 채널에 배포합니다.

새로운 Spring AI AgentCore SDK를 통해 생산 준비가 완료된 AI 에이전트를 구축하고, 확장 가능한 AgentCore Runtime에서 실행할 수 있습니다.

이 글에서는 AWS Lambda를 사용하여 Amazon Nova 맞춤화를 위한 확장 가능하고 비용 효율적인 보상 함수를 구축하는 방법을 설명합니다. 강화 학습 기법을 통해 다양한 보상 시스템을 설계하는 방법을 배울 수 있습니다.

아마존 베드록에서 AI 애플리케이션의 운영을 유지하기 위한 FM 전환 관리 방법을 소개합니다. 모델의 진화에 따라 애플리케이션을 새로운 모델로 원활하게 전환하는 전략을 논의합니다.

AWS가 에이전트 관리의 미래를 제시하는 ‘AWS 에이전트 레지스트리’를 미리보기로 발표했습니다. 이 플랫폼은 기업 내 AI 에이전트, 도구 및 기술을 발견하고 공유하며 재사용할 수 있는 단일 공간을 제공합니다.

이 글에서는 Amazon Bedrock AgentCore를 사용하여 React 애플리케이션에 실시간 AI 브라우저 에이전트를 임베드하는 방법을 소개합니다. 세 가지 단계로 구성된 이 과정은 샘플 애플리케이션을 생성하는 데 도움을 줍니다.

이 글에서는 사용자 입력을 요청하고 동적 콘텐츠 생성을 위해 LLM 샘플링을 호출하는 상태 유지 MCP 서버를 구축하는 방법을 배웁니다. 각 기능에 대한 코드 예제와 함께 작동하는 상태 유지 MCP 서버를 아마존 베드록 에이전트코어 런타임에 배포하는 방법도 설명합니다.

이번 포스트에서는 아마존 베드록을 활용한 아마존 노바 모델의 세부 조정 과정을 소개합니다. 도메인 특정 작업에서 우수한 성능을 발휘하는 의도 분류기 예제를 통해 각 단계를 설명합니다.

의료 및 생명과학 분야에서 AI 에이전트는 임상 데이터를 처리하고 규제 서류를 제출하는 데 도움을 줍니다. 그러나 민감한 데이터와 규제 요건으로 인해 인간의 감독이 필요합니다. 이 글에서는 AWS 서비스를 활용한 HITL 구조 구현 방법을 소개합니다.

이 글에서는 오디오 임베딩의 이해와 아마존 노바 멀티모달 임베딩 구현 방법, 오디오 콘텐츠 검색 시스템 구축에 대해 설명합니다. 오디오를 벡터로 표현하는 방법과 아마존 노바의 기술적 기능을 배울 수 있습니다.

이 글에서는 GSM8K 수학적 추론 데이터셋을 예로 들어 강화 학습 미세 조정(RFT)의 효과적인 활용 방법을 탐구합니다. 데이터셋 준비와 보상 함수 설계, 훈련 진행 모니터링 방법 등을 다룹니다.

아마존 베드록 프로젝트를 통해 특정 작업에 대한 추론 비용을 할당하고 AWS 비용 탐색기 및 데이터 내보내기에서 분석할 수 있습니다. 이 글에서는 프로젝트 설정 방법을 안내합니다.

이 글에서는 아마존 노바 2 소닉을 활용해 두 AI 호스트 간의 흥미로운 대화를 생성하는 자동화된 팟캐스트 생성기를 만드는 과정을 소개합니다.

아마존 베드록을 이용해 비즈니스 질문을 데이터베이스 쿼리로 변환하는 자연어 텍스트-투-SQL 솔루션 구축 방법을 소개합니다.

이 글에서는 아마존 퀵을 활용해 맞춤형 HR 온보딩 에이전트를 만드는 방법을 소개합니다. 조직의 프로세스를 이해하고 HR 시스템과 연결하여 신규 직원 질문에 답변하고 문서 완료를 추적하는 등의 작업을 자동화하는 방법을 설명합니다.

이 글에서는 Qwen 2.5 7B Instruct 모델을 RLVR을 사용해 도구 호출을 위해 세밀하게 조정하는 방법을 설명합니다. 데이터셋 준비, 보상 함수 설계, 훈련 구성 및 결과 해석 등을 다룹니다.

이 글에서는 아마존 베드록과 오픈서치를 사용하여 의미 기반 및 텍스트 기반 검색을 결합한 생성형 AI 비서 구현 방법을 소개합니다.

Windward는 지리공간 정보와 생성형 AI를 결합하여 경고 조사 과정을 개선하고 가속화하는 방법을 소개합니다. 이를 통해 분석가들은 데이터 수집 대신 의사 결정에 집중할 수 있습니다.

아마존 베드록 에이전트코어 게이트웨이는 AI 에이전트가 도구 및 MCP 서버에 연결하는 방식을 중앙에서 관리하는 계층을 제공합니다. 이 글에서는 OAuth 보호 MCP 서버에 연결하는 방법을 설명합니다.

이 글에서는 Strands Evaluations SDK의 ActorSimulator가 평가 파이프라인에 통합된 구조화된 사용자 시뮬레이션 문제를 어떻게 해결하는지 살펴봅니다.

TGS는 Amazon SageMaker HyperPod를 활용하여 지진 기초 모델의 분산 학습을 거의 선형적으로 확장하고, 더 큰 맥락 창을 구현했습니다. 이로 인해 학습 시간이 6개월에서 5일로 단축되었습니다.

AWS 네트워크 방화벽을 설정하여 AgentCore 리소스의 접근을 승인된 인터넷 도메인 목록으로 제한하는 방법을 소개합니다. 이 글에서는 SNI 검사를 통한 도메인 수준 필터링에 대해 설명합니다.

로켓클로즈가 AWS 생성 AI 혁신 센터와의 협력을 통해 모기지 문서 처리 시간을 15배 단축하는 지능형 솔루션을 개발했다. 이 솔루션은 아마존 텍스트랙트를 이용한 OCR 처리와 아마존 베드록을 통한 기초 모델을 활용한다.

이 포스트에서는 관리되는 세션 저장소를 사용하여 에이전트의 파일 시스템 상태를 유지하는 방법과 에이전트 환경에서 직접 셸 명령을 실행하는 방법을 설명합니다.

이 글에서는 아마존 노바 액트를 활용하여 수동 작업을 간소화하고 실시간 시장 통찰력을 바탕으로 데이터 기반 가격 결정을 지원하는 자동화된 경쟁 가격 정보 시스템 구축 방법을 소개합니다.

아마존 베드록 에이전트코어 평가는 AI 에이전트의 성능을 평가하는 완전 관리형 서비스입니다. 이 글에서는 에이전트의 정확성을 다양한 품질 차원에서 측정하는 방법과 개발 및 생산을 위한 두 가지 평가 접근법을 소개합니다.

이 글에서는 Amazon Bedrock AgentCore를 사용하여 AWS 비용 관리를 지원하는 FinOps 에이전트를 구축하는 방법을 소개합니다. 이 대화형 에이전트는 여러 계정의 데이터를 통합하여 즉각적인 질문 응답을 제공합니다.

이 글에서는 조직을 위한 AI 기반 컴플라이언스 증거 수집 시스템을 구축하는 방법을 소개합니다. 아키텍처 결정, 구현 세부사항, 배포 과정 등을 배울 수 있습니다.

이 글에서는 Amazon Nova Act를 활용한 QA 자동화 구현 방법을 소개합니다. 자연어로 테스트를 정의하고 UI 변화에 자동으로 적응하는 방법을 알아보세요.

AWS가 보안 테스트와 클라우드 운영을 위한 새로운 AI 기반 프론티어 에이전트를 출시했습니다. 이 에이전트는 독립적으로 작업을 수행하며, 빠른 침투 테스트와 신속한 사고 해결을 지원합니다.

AWS 생성 AI 혁신 센터의 AI 리스크 인텔리전스(AIRI)는 동적인 에이전트 작업을 효과적으로 관리하기 위한 자동화된 체계를 제공합니다. 이는 보안, 운영 및 거버넌스의 통합적 재구성을 의미합니다.

링은 아마존 베드록 지식 기반을 활용해 지역별 콘텐츠에 대한 메타데이터 기반 필터링을 구현하고, 콘텐츠 관리 프로세스를 효율화하여 비용 절감과 함께 고객 지원을 확장했습니다.

폭스바겐 그룹은 브랜드에 맞는 마케팅 자산을 대규모로 생산하는 데 어려움을 겪었습니다. 이를 해결하기 위해 생성적 AI 솔루션을 개발하여 포토리얼리스틱 차량 이미지를 생성하고, 기술적 정확성을 검증하며, 브랜드 가이드라인 준수를 지원합니다.

아마존 세이지메이커 AI를 활용해 유럽우주국의 STIX 데이터를 기반으로 태양 플레어를 탐지하는 딥러닝 모델을 구축하고 배포하는 방법을 소개합니다.

아마존의 새로운 AI 도구를 활용해 사용자 맞춤형 영화 관람 경험을 제공하는 방법을 소개합니다. 이 시스템은 자연어 대화를 통해 사용자의 선호도를 이해합니다.

아마존 베드록이 아시아 태평양(뉴질랜드) 지역에서 제공되며, 고객들은 다양한 AI 모델에 접근할 수 있게 되었습니다. 이 글에서는 뉴질랜드 지역에서의 크로스 리전 추론 방식과 사용 가능한 모델에 대해 설명합니다.

이 글에서는 AWS의 서버리스 아키텍처를 이용해 완전 자동화된 맥락 인식 AI 솔루션을 구현하는 방법을 소개합니다. 이 솔루션은 취약한 집단을 위한 책임 있는 AI 시스템을 배포하고, 다양한 사용자 그룹에 적절하고 신뢰할 수 있는 AI 응답을 유지하는 데 도움을 줍니다.

AWS는 Amazon SageMaker 통합 스튜디오와 Amazon S3의 통합을 발표했습니다. 이를 통해 팀은 Amazon S3에 저장된 비정형 데이터를 쉽게 활용하여 머신러닝 및 데이터 분석을 수행할 수 있습니다.

아마존 폴리가 새로운 양방향 스트리밍 API를 발표했습니다. 이 API는 텍스트와 오디오를 동시에 전송할 수 있어 대화형 AI 애플리케이션에 적합합니다.

아마존 베드록의 멀티모달 기초 모델을 통해 비디오 이해를 확장하는 세 가지 아키텍처 접근 방식을 살펴봅니다. 각 접근 방식은 다양한 사용 사례와 비용-성능 균형을 고려하여 설계되었습니다.

이 글에서는 Pipecat 음성 에이전트를 아마존 베드록 에이전트코어 런타임에 배포하는 방법을 다룹니다. 다양한 네트워크 전송 방식을 활용한 배포 가이드와 코드 샘플을 제공합니다.

이 글에서는 Amazon Bedrock에서 OpenAI 호환 API를 사용하여 강화 학습 미세 조정을 수행하는 전체 워크플로우를 설명합니다. 인증 설정부터 Lambda 기반 보상 함수 배포, 훈련 작업 시작 및 모델 추론 실행까지 다룹니다.

이 글에서는 SageMaker AI 추론 엔드포인트를 배포하기 위해 GPU 용량을 설정하는 방법을 안내합니다. 데이터 과학자의 여정을 따라 모델 평가를 위한 용량 예약 및 엔드포인트 관리 과정을 설명합니다.

이 글에서는 아마존 베드록에서 클로드 도구를 사용하여 대규모 언어 모델의 힘을 활용한 동적이고 적응 가능한 엔티티 인식 방법을 소개합니다.

이 블로그 포스트에서는 Reco가 아마존 베드록을 활용하여 보안 경고를 혁신하고 사건 대응 시간을 크게 개선한 방법을 소개합니다.

이 글에서는 AWS Cloud Development Kit(AWS CDK)를 사용하여 Slack 통합을 구축하는 방법을 설명합니다. AWS Lambda 함수를 활용한 인프라 배포와 Slack의 보안 요구사항을 충족하는 이벤트 구독 설정 방법을 배울 수 있습니다.

AWS ISV 파트너인 인공지능 기업이 아마존 세이지메이커 AI와 아마존 노바를 활용해 입력은 확률적이고 출력은 결정적인 솔루션을 제공하여 안전한 기업 채택을 지원하고 있습니다.

이 글에서는 네모트론 3 슈퍼 모델의 기술적 특성과 잠재적인 활용 사례를 탐구하며, 아마존 베드록 환경에서 생성형 AI 애플리케이션을 시작하는 데 필요한 기술적 지침을 제공합니다.

이 글에서는 VRAG를 통해 자연어 텍스트와 이미지를 고품질 비디오로 변환하는 비디오 생성 접근 방식을 소개합니다. 이 자동화된 솔루션을 통해 구조화된 입력으로부터 현실감 있는 AI 기반 비디오 시퀀스를 생성할 수 있습니다.

V-RAG는 비디오 콘텐츠 제작을 개선하기 위한 새로운 접근 방식으로, 검색 증강 생성 기술과 고급 비디오 AI 모델을 결합하여 효율적이고 신뢰할 수 있는 AI 비디오 생성 솔루션을 제공합니다.

아마존 SageMaker AI 엔드포인트가 향상된 메트릭스를 지원하여 구성 가능한 게시 빈도를 제공합니다. 이를 통해 생산 엔드포인트를 모니터링하고 문제를 해결하며 성능을 개선할 수 있는 세부적인 가시성을 제공합니다.

이 글에서는 Amazon Quick Microsoft Teams 확장을 여러 AWS 리전에서 배포할 때 데이터 거주지를 준수하는 방법을 소개합니다. GDPR 및 데이터 주권 요구 사항을 준수하는 데 도움이 되는 설정 방법을 배울 수 있습니다.

이 글에서는 Nova Forge SDK를 사용하여 Amazon SageMaker AI Training Jobs로 Amazon Nova 모델을 훈련하는 과정을 안내합니다.

오늘, LLM 커스터마이징을 쉽게 할 수 있는 Nova Forge SDK가 출시되었습니다. 이 SDK는 팀들이 언어 모델의 잠재력을 최대한 활용할 수 있도록 지원합니다.

이 글에서는 Strands Evals를 사용하여 AI 에이전트를 체계적으로 평가하는 방법을 소개합니다. 핵심 개념, 내장 평가자, 다중 턴 시뮬레이션 기능 및 통합을 위한 실용적인 접근 방식을 설명합니다.

이 글에서는 Amazon Bedrock, Amazon Elastic Container Service, Amazon DynamoDB, 모델 컨텍스트 프로토콜(MCP)을 사용하여 AI 기반 A/B 테스트 엔진을 구축하는 방법을 소개합니다.

Bark.com은 AWS Generative AI Innovation Center와 협력하여 AI 기반 콘텐츠 생성 솔루션을 개발했습니다. 이 솔루션은 실험적 시험에서 생산 시간을 크게 단축하고 콘텐츠 품질 점수를 향상시켰습니다.

이 글에서는 아마존 베드락에서 노바 1에서 노바 2로 마이그레이션하는 방법을 안내합니다. 모델 매핑, API 변경 사항, 코드 예제, 새로운 기능 구성 방법 등을 다룹니다.

Atos는 AWS AI 리그를 활용해 400명 이상의 참가자에게 AI 교육을 가속화하고, 게임화된 경험 학습의 실질적인 이점을 강조했습니다. 이 글에서는 AI 교육 프로그램에 적용할 수 있는 통찰도 공유합니다.

AWS와 NVIDIA가 AI 컴퓨팅 수요 증가에 대응하기 위해 새로운 기술 통합을 발표하며 전략적 협력을 확대했습니다. 이들은 AI 솔루션을 생산 준비 상태로 구축하고 운영하는 데 도움을 줄 예정입니다.

AWS 생성 AI 혁신 센터의 두 번째 시리즈로, 각 역할에 따른 책임과 위험을 다룹니다. P&L 소유자, 기업 아키텍처 담당자, 보안 리더 등 다양한 직무에 맞춘 내용으로 에이전틱 AI의 성공 요소를 설명합니다.

이번 블로그 포스트에서는 분산 서비스, 지능형 요청 스케줄링, 전문가 병렬 처리 등 차세대 추론 기능의 개념을 소개합니다. 이를 통해 추론 성능과 자원 활용도를 개선하는 방법을 설명합니다.

Workhuman이 아마존 퀵사이트를 이용해 다중 테넌트 셀프 서비스 보고서를 구축한 과정을 살펴봅니다. 이 글에서는 아키텍처 접근법과 구현 전략, 그리고 비즈니스 성과를 공유합니다.

이 블로그 포스트에서는 Amazon SageMaker Unified Studio와 SageMaker Catalog를 활용하여 오프라인 기능 저장소를 구축하는 방법을 단계별로 안내합니다.

AWS는 vLLM 버전 0.16.0부터 P-EAGLE 기술을 도입해 병렬 추측 디코딩을 활용한 빠른 대형 언어 모델(LLM) 추론을 지원한다. 사전 학습된 체크포인트와 함께 제공된다.

아마존은 베드록 서비스의 추론 작업 가시성을 높이기 위해 두 가지 새로운 클라우드워치 지표인 TimeToFirstToken과 EstimatedTPMQuotaUsage를 도입했다. 이를 통해 알람 설정과 용량 관리가 가능해진다.