개인 KL 분포 추정을 위한 인스턴스 최적성

Apple의 연구팀은 미지의 이산 분포를 추정하는 기본 문제를 연구했다. 해당 연구에서는 n개의 독립적인 및 동일하게 분포된 샘플을 통해 d개의 심볼을 포함하는 분포 p를 추정하는 것을 다룬다. 목표는 실제 분포와 알고리즘의 추정치 사이의 KL 발산을 최소화하는 것이다. 이를 위해 미니맥스 최적의 개인 추정기를 구축했지만, 미니맥스 최적성은 개별 (최악의 경우가 아닌) 인스턴스 p에서 알고리즘의 성능을 밝혀내지 못하는 한계가 있다. 그 결과 단순한 미니맥스 최적의 DP 추정기는 실제 분포에서 나쁜 경험적 성능을 낳을 수 있다. 따라서 연구팀은 이 문제를 인스턴스 최적성 관점에서 다시 조사했다. 이를 통해…
출처: Apple
요약번역: 미주투데이 서현진 기자