대형 언어 모델(Large language models, LLMs)은 종종 환각이라고 하는 신뢰할 수 없는 콘텐츠를 생성한다. 이러한 환각은 모델의 신뢰성을 저해하는 요소로 작용할 수 있다. 과거의 연구들은 주로 환각 탐지를 이진 분류 작업으로 다루었지만, 많은 실제 응용 프로그램에서는 환각된 구간을 식별하는 것이 필요하다. 이는 다단계 의사 결정 과정을 필요로 하는 작업이며, 이에 명시적인 추론이 복잡한 환각 구간 탐지 작업을 돕는지에 대한 의문을 던진다. 이 질문에 대한 답을 얻기 위해, 연구진은 먼저 사전 훈련된 모델을 Chain-of-Thought (CoT) 추론과 함께 평가했다. 그 결과, CoT 추론이 최소한 환각 구간을 생성할 수 있는 잠재력이 있는 것으로 나타났다. 이는 복잡한 환각 구간 탐지 작업에 명시적인 추론을 통합하는 것이 도움이 될 수 있다는 가능성을 시사한다. 이 연구는 환각 구간 탐지를 위한 추론 학습의 중요성을 강조하며, 앞으로의 연구에서 명시적인 추론을 통합하여 환각을 줄이고 언어 모델의 신뢰성을 향상시키는 방안을 모색할 것이다.

<Apple 뉴스 본문 전체읽기>