최근 연구에서는 생성 모델, 특히 비전-언어 모델(VLM)이 시각 장애인을 돕기 위해 방에 있는 의사를 식별하는 등의 결정을 내릴 때 발생하는 편향 문제를 다루고 있습니다. VLM의 결정은 입력된 인물의 인구 통계적 속성에 영향을 받으며, 이로 인해 여성 의사를 식별하지 못하는 등의 편향된 결과가 나타날 수 있습니다. 이러한 문제를 해결하기 위해 연구자들은 편향 완화와 모델 성능 간의 균형을 맞출 수 있는 방법을 모색하고 있습니다. 사용자의 다양한 요구에 맞춰 편향을 조절할 수 있는 기술이 필요하다는 점이 강조되고 있습니다. 이 연구는 이러한 필요를 충족시키기 위한 직접 조정 최적화(DSO) 기술을 소개하고 있습니다.

<Apple 뉴스 본문 전체읽기>