LLMs에서 효율적인 데모 선택을 위한 사전 선택 프레임워크 FEEDER
LLMs(Large Language Models)는 소량의 추론을 통해 다양한 작업에서 우수한 성능을 발휘하고 있는데, 이는 in-context learning (ICL)으로도 알려진 방식이다. 그러나 이러한 모델들의 주요 문제점 중 하나는 대규모 훈련 데이터셋에서 가장 대표적인 데모를 선택하는 것이다. 과거 방법은 각 예제와 입력 질문 사이의 유사도 점수를 사용하여 관련성에 따라 데모를 선택했으나, 현재 방법은 추가적인 선택을 제안하고 있다. FEEDER는 이러한 문제를 개선하기 위해 사전 선택 프레임워크를 제안하며, 효율적인 데모 선택을 위한 방법을 소개하고 있다. FEEDER는 LLMs에서 더 나은 성능을 달성하기 위한 중요한 도구로 활용될 수 있을 것으로 기대된다.
출처: Mark Tech Post
요약번역: 미주투데이 김지호 기자