산업용 추천 시스템에서는 Large Language Models (LLMs)를 활용한 Generative Retrieval (GR)이 기존의 임베딩 기반의 최근접 이웃 검색을 대체하고 있다. 이 모델들은 항목을 Semantic IDs (SIDs)로 나타내며 검색을 자기회귀 디코딩 작업으로 취급한다. 그러나 산업 응용 프로그램에서는 종종 콘텐츠 신선도를 강제하거나 비즈니스 로직을 엄격히 준수해야 할 필요가 있다. 이러한 요구사항을 충족하기 위해 구글 AI는 STATIC이라는 Sparse Matrix 프레임워크를 소개했다. 이 프레임워크는 LLM 기반 Generative Retrieval의 속도를 948배 빠르게 만들어준다.

<Mark Tech Post 뉴스 본문 전체읽기>