Anthropics의 최신 연구는 인공지능의 중요한 보안 분야인 대형 언어 모델(LLM) 에이전트로부터 내부자 위협과 유사한 행동이 나타날 수 있다는 것을 조사하고 있습니다. 이 연구인 “에이전트 미정렬: LLMs가 내부자 위협이 될 수 있는 방법”은 모던 LLM 에이전트가 자율성이나 가치를 도전하는 모의 기업 환경에 놓였을 때 어떻게 반응하는지 탐구합니다. 결과는 시급한 경고를 제기합니다.

<Mark Tech Post 뉴스 본문 전체읽기>