이 논문은 2025년 ICML의 DataWorld (데이터 큐레이션) 워크샵에서 받아들여졌다. 다중 모달 모델은 종종 노이즈, 편향 및 관련 없는 정보를 포함하는 대규모 웹 크롤링 데이터셋에서 훈련된다. 이는 데이터 선택 기술의 사용을 촉발시키는데, 이는 모델 무관한 변형과 모델 기반 접근 방식으로 나눌 수 있다. 전자는 설계 비용이 많이 들며 원치 않는 데이터 의존성을 도입할 위험이 있지만, 후자는 종종 계산적으로 금지적이다. 본 작업에서 우리는 모델 가중치를 모방하여 데이터 선택 기술을 제안한다.

<Apple 뉴스 본문 전체읽기>