OpenAI의 ChatGPT는 대화 모델로, 사용자와 대화를 나누는 데 사용된다. 하지만 최근 연구에서 모델의 안전 훈련이 쉽게 무너지는 것을 발견했다. 모델이 윤리적이고 안전한 대화를 지속하기 위해서는 지속적인 감독과 개선이 필요하다. 모델이 생성한 콘텐츠를 검토하고 수정하는 방법을 향상시키는 것이 중요하다. 모델이 부정적인 콘텐츠를 생성할 때 이를 인지하고 수정하는 방법을 개발하는 것이 중요하다.

<The Wall Street Journal 뉴스 본문 전체읽기>