이 비교는 vLLM, TensorRT-LLM, HF TGI, LMDeploy의 4가지 스택에 초점을 맞춰 실제 작업 부하에서 추론 스택의 선택이 GPU 플릿의 토큰 당 초, 테일 레이턴시 및 궁극적으로 백만 토큰 당 비용을 결정한다.
바이너리 크로스 엔트로피(BCE)는 이진 분류의 기본 손실 함수이지만, 불균형 데이터셋에서 심각한 문제를 야기할 수 있다. Focal Loss는 한 클래스가 극도로 드물 때도 오류를 적절하게 고려하여 불균형 분류에 유용하다.
2025년에는 OpenAI의 ChatGPT Atlas, Microsoft Edge의 Copilot Mode, The Browser Company의 Dia, Perplexity의 Comet이 에이전틱 AI 브라우저 시장을 주도하고 있습니다. 각각이 자율성, 기억, 개인 정보 보호 등 다른 디자인 선택을 하고 있습니다. 이 기사는 그들의 아키텍처를 비교합니다.
신뢰할 수 있는 다중 에이전트 시스템은 대부분 메모리 설계 문제이다. 에이전트들이 도구를 호출하고 협업하며 긴 워크플로우를 실행할 때, 저장되는 내용, 검색 방법, 메모리가 잘못되거나 누락된 경우 시스템이 어떻게 동작하는지에 대한 명시적 메커니즘이 필요하다. 이 기사는 에이전트 스택에서 일반적으로 사용되는 6가지 메모리 시스템 패턴을 비교한다.
