Amazon Bedrock의 모델 가져오기에 로그 확률을 지원하는 기능을 소개한다. 로그 확률은 모델의 예측 신뢰도를 나타내는 데 도움이 되며, API 호출에서 이를 활성화하여 모델이 반환하는 출력에 대한 더 깊은 통찰력을 제공한다. 이를 통해 잠재적인 환각을 감지하거나 RAG(Retrieval-Augmented Generation) 시스템을 최적화하고 세밀하게 조정된 모델을 평가할 수 있다. 이러한 통찰력은 사용자 정의 모델을 활용한 AI 애플리케이션을 더 신뢰할 수 있게 만들어준다.

<AWS Blog 뉴스 본문 전체읽기>