최근 연구에서는 모델의 내부를 탐색하는 것이 모델의 생성물에서 명백하지 않은 풍부한 정보를 드러낼 수 있음을 보여주었습니다. 이러한 정보는 모델 사용자가 모델 소유자가 접근할 수 없다고 가정한 정보일 수 있어, 의도치 않거나 악의적인 정보 유출의 위험을 초래할 수 있습니다. 특히, 비전-언어 모델을 테스트베드로 사용하여, 잔여 스트림에 인코딩된 풍부한 정보가 두 가지 자연적인 병목 현상을 통해 압축될 때 서로 다른 ‘표현 수준’에서 유지되는 정보를 체계적으로 비교한 첫 번째 연구 결과를 발표했습니다.

<Apple 뉴스 본문 전체읽기>