확산 트랜스포머의 일반화를 가능하게 하는 추론 편향에 대해

최근의 연구에서 UNet 기반의 덴오이저를 사용한 확산 모델의 일반화를 연구한 결과, 기하적 적응적 고조파 베이스를 통해 표현 가능한 추론 편향이 발견되었습니다. 그러나 현실에서는 더 최근의 더 많은 덴오이징 네트워크가 종종 트랜스포머를 기반으로 하고 있는데, 예를 들어 확산 트랜스포머(DiT)가 있습니다. 이는 다음 질문을 던집니다: 트랜스포머 기반의 노이즈 제거 네트워크는 또한 기하적 적응적 고조파 베이스를 통해 표현 가능한 추론 편향을 나타내는가? 우리의 놀람은, 이는 그렇지 않다는 것을 발견했습니다. 이 불일치는 우리가 좋은 결과를 이끌어낼 수 있는 추론 편향을 찾기 위한 동기를 부여합니다.
출처: Apple
요약번역: 미주투데이 서현진 기자