Meta AI가 제안한 ‘메타인지 재사용’: LLM 사고 체인을 절차적 핸드북으로 변환하여 토큰을 46% 절감
Meta AI가 새로운 방법을 소개했다. 이 방법은 반복되는 추론 패턴을 짧고 이름이 붙은 절차, 즉 “행동”으로 압축한 다음 모델이 추론 시에 사용하거나 미세 조정을 통해 정제하는 것이다. 이를 통해 MATH에서는 최대 46%의 추론 토큰을 절감하면서 정확도를 유지하거나 향상시키고, AIME에서는 자가 개선 환경에서 최대 10%의 정확도 향상을 이끌어내었다. 이 방법은 LLM 체인의 사고를 절차적 핸드북으로 변환하여 토큰을 절감하는 것으로 기술된다.
출처: Mark Tech Post
요약번역: 미주투데이 김지호 기자