Cloudflare가 Agents SDK v0.5.0을 출시했다. 이 SDK는 AI 개발에서 상태 없는 서버리스 함수의 한계를 해결하기 위해 만들어졌다. 기존의 서버리스 아키텍처에서는 매번 LLM(세션 관리) 호출이 발생할 때마다 세션 컨텍스트를 처음부터 다시 구축해야 했는데, 이는 지연 시간과 토큰 소비를 증가시켰다. Agents SDK의 최신 버전인 v0.5.0은 수직 통합된 실행 레이어를 제공하여 컴퓨트, 상태 등을 효율적으로 관리할 수 있게 되었다. 이를 통해 엣지 추론 성능이 최적화되었고, Rust 기반 Infire 엔진을 새로 도입했다. 이러한 업데이트를 통해 Cloudflare는 AI 개발 환경을 개선하고 더 나은 성능을 제공하고 있다.

<Mark Tech Post 뉴스 본문 전체읽기>