대형 언어 모델 (LLM)의 신속한 확장으로 구조화된 가지치기가 보다 효율적이고 우수한 성능을 제공하는 작은 모델을 학습하는 데 널리 사용되고 있다. 이 논문에서는 모델에 대한 고정된 가지치기 마스크를 결정하는 전통적인 정적 가지치기 접근법을 넘어서 사용자 지시에 설명된 정보를 기반으로 가지치기 마스크를 동적으로 조정하는 방법을 제안한다. 이 방법에서 가지치기 마스크는 입력에 따라 다르며 사용자 지시에 설명된 정보에 기반하여 동적으로 적응된다. 이 접근 방식은 Instruction-Following Pruning for Large Language Models로 명명되었다. 이를 통해 효율적이고 우수한 성능을 발휘하는 대형 언어 모델을 향상시키는 것이 목표이다. 이 연구 결과는 대형 언어 모델의 가지치기에 대한 새로운 방향을 제시하고 있다.

<Apple 뉴스 본문 전체읽기>