아마존 베드록, TTFT 및 예상 쿼터 사용량을 위한 새로운 클라우드워치 지표 발표
아마존은 베드록 서비스의 추론 작업 가시성을 높이기 위해 두 가지 새로운 클라우드워치 지표인 TimeToFirstToken과 EstimatedTPMQuotaUsage를 도입했다. 이를 통해 알람 설정과 용량 관리가 가능해진다.
최신뉴스 전체보기
아마존은 베드록 서비스의 추론 작업 가시성을 높이기 위해 두 가지 새로운 클라우드워치 지표인 TimeToFirstToken과 EstimatedTPMQuotaUsage를 도입했다. 이를 통해 알람 설정과 용량 관리가 가능해진다.