양자화 인식 훈련(QAT)은 양자화된 신경망의 정확도를 향상시키는 주요 기술 중 하나이다. 이전 연구에서는 풀 프리시전(FP) 단계 다음에 QAT 단계가 이어지는 방식이 QAT만 하는 것보다 우수한 정확도를 보여준다는 것을 보여주었다. 그러나 FP와 QAT 단계 간의 최적의 컴퓨팅 할당은 여전히 불명확하다. 8600만부터 22억까지 다양한 컴퓨팅 예산, QAT 비트 폭, 모델 크기로 실험을 수행하여 다른 QAT 기간이 최종 성능에 미치는 영향을 조사했다. 이전 연구 결과와 달리, FP 단계에 더 많은 컴퓨팅을 할당하는 것이 QAT 기간을 늘리는 것보다 더 나은 최종 성능을 보여주는 것을 시연하고 있다.

<Apple 뉴스 본문 전체읽기>