LLM은 빠르게 진화하는 공격의 주요 대상이며, prompt injection, jailbreaking, sensitive data exfiltration과 같은 위협에 노출되어 있다. 이러한 유형의 위협의 특성 상, 정적인 방어 메커니즘을 넘어서는 방어 메커니즘이 필요하다. 현재의 LLM 보안 기술은 정적인 훈련 시간에 의존하는 개입으로 인해 취약점이 존재한다. 이에 AegisLLM은 적응형 다중 에이전트 시스템을 활용하여 LLM 보안을 강화하고자 한다. AegisLLM은 추론 시간에 변화하는 위협에 대응하기 위해 다중 에이전트 아키텍처를 도입하여 보안성을 확장한다.

<Mark Tech Post 뉴스 본문 전체읽기>