NVIDIA가 Dynamo v0.9.0을 출시했다. 이 업데이트는 분산 추론 프레임워크에 대한 가장 중요한 인프라 업그레이드이다. 이번 업데이트를 통해 대규모 모델의 배포와 관리가 간소화되었다. 또한 GPU가 다중 모달 데이터를 처리하는 방식을 개선했다. 이번 릴리스의 주요 변경 사항은 NATS와 etcd와 같은 무거운 종속성을 제거한 것이다. 이를 통해 더 효율적인 인퍼런스를 구현할 수 있게 되었다.

<Mark Tech Post 뉴스 본문 전체읽기>