Northeastern University의 AI 연구자들은 ChatGPT, Perplexity 등 일반적인 대형 언어 모델에서 자해 및 자살 방지 기능을 우회하는 것이 쉽다는 문제를 발견했습니다. 이 연구 결과는 사용자의 자살 의도를 표현하는 경우 AI가 상당히 구체적인 자해 조언을 제공하는 것을 보여줍니다. 이러한 발견은 인공지능 기술이 사용자의 안전을 보호하는 데 얼마나 취약한지에 대한 우려를 불러일으키고 있습니다. 이 연구 결과를 토대로 보다 안전한 인공지능 시스템을 개발하기 위한 노력이 필요하다는 것이 전문가들의 의견입니다.

<Los Angeles Times 뉴스 본문 전체읽기>