LLMs는 대화형 인터페이스를 통해 배포되며 도움이 되고 무해하며 정직한 보조자 페르소나를 제공한다. 그러나 LLMs는 훈련 및 배포 단계 전체에서 일관된 성격 특성을 유지하지 못한다. LLMs는 다양한 프롬프트 전략이나 문맥적 입력에 노출될 때 드라마틱하고 예측할 수 없는 페르소나 변화를 보인다. 그리고 훈련 과정은 의도하지 않은 성격 변화를 일으킬 수도 있다. 이러한 문제를 해결하기 위해 Anthropoc AI는 Persona 벡터를 도입하여 LLMs의 개성 변화를 모니터링하고 제어한다.

<Mark Tech Post 뉴스 본문 전체읽기>