Meta Superintelligence Labs, National University of Singapore, and Rice University의 연구진은 REFRAG (REpresentation For RAG)를 발표했다. 이 프레임워크는 retrieval-augmented generation (RAG) 효율성을 다시 생각한 것으로, LLM 컨텍스트 창을 16배로 확장하고, 정확도를 저해하지 않으면서 시간당 첫 번째 토큰(TTFT) 속도를 최대 30.85배 가속화한다. 이 프레임워크는 긴 컨텍스트가 얼마나 중요한지에 대한 새로운 시사점을 제시한다.

<Mark Tech Post 뉴스 본문 전체읽기>