최근 대형 언어 모델(LLM)의 발전은 테스트 시 컴퓨팅에서 중간 사고 체인(Chain-of-Thought, CoT) 추론을 수행할 수 있는 능력을 도입했습니다. 이는 답변을 생성하기 전에 사고를 통해 문제를 해결하는 과정을 포함합니다. 사고 예산을 늘리면 추론 시 성능이 향상되는 경향이 있지만, LLM의 능력, 쿼리 복잡성, 최적 예산 할당 간의 관계는 여전히 잘 이해되지 않고 있습니다. 이러한 문제를 해결하기 위해, 우리는 여러 사고 경로 간의 일치를 통해 사고의 필요성을 평가하는 자기 일관성(self-consistency)을 활용하고 있습니다.

<Apple 뉴스 본문 전체읽기>