Anthropic이 Petri (리스크 상호작용을위한 병렬 탐색 도구)를 공개했습니다. 이 오픈소스 프레임워크는 감사원 에이전트가 대상 모델을 다중 턴, 도구 보완 상호작용에서 조사하고 판사 모델을 조작하여 경계 LLMs를 실제적으로 감사하는 작업을 자동화합니다. 이를 통해 대상 모델의 행동을 다양한 시나리오에서 테스트할 수 있습니다.

<Mark Tech Post 뉴스 본문 전체읽기>