AI 모델의 안전성 평가는 종종 비전과 언어 입력을 따로 처리하여, 다중 모달 이해에서의 잠재적 위험을 간과하는 경우가 많습니다. 기존 방법론은 명백히 안전하지 않은 콘텐츠와 경계 케이스를 명확히 구분하지 못하여, 문제가 발생할 수 있습니다. 이러한 문제를 극복하기 위해 Vision Language Safety Understanding (VLSU)가 제안되었습니다. VLSU는 17가지 다양한 안전성 요소를 통해 다중 모달 안전을 체계적으로 평가하며, 세부적인 위험도 분류와 조합 분석을 통해 안전한 콘텐츠와 유해한 콘텐츠를 명확히 구분할 수 있습니다. 이를 통해 다중 모달 모델의 안전성을 보다 효과적으로 보장할 수 있게 되었습니다.

<Apple 뉴스 본문 전체읽기>