앤트로픽이 최근 클로드의 내부 활성화를 인간이 읽을 수 있는 텍스트로 변환하는 자연어 오토인코더를 소개했습니다. 사용자가 클로드에 메시지를 입력하면, 그 과정에서 보이지 않는 일이 발생합니다. 사용자가 보낸 단어는 모델이 맥락을 처리하고 응답을 생성하는 데 사용하는 긴 숫자 목록인 활성화로 변환됩니다. 이러한 활성화는 모델의 ‘사고’가 이루어지는 곳이라고 할 수 있습니다. 그러나 그동안 이 활성화를 쉽게 읽을 수 있는 방법이 없었습니다. 이번에 발표된 자연어 오토인코더는 이러한 활성화를 텍스트로 변환하여, 사용자들이 모델의 작동 방식을 보다 쉽게 이해할 수 있도록 돕습니다.

<Mark Tech Post 뉴스 본문 전체읽기>