AI Red Teaming은 인공지능 시스템을 적대적 공격과 보안 스트레스 시나리오에 시스템적으로 테스트하는 과정이다. 특히 생성 모델과 기계 학습 모델을 대상으로 한다. Red Teaming은 전통적인 침투 테스트와는 달리 알려진 소프트웨어 결함이 아닌 알려지지 않은 AI 특정 취약점, 예기치 않은 위험 및 신흥 행위를 조사한다. 이를 통해 기존의 방어 메커니즘을 향상시키고 새로운 위협으로부터 시스템을 보호할 수 있다.

<Mark Tech Post 뉴스 본문 전체읽기>