Chat DIC 프로젝트에서 AWS Bedrock Prompt Caching으로 성능 최적화하기
이 글은 SK플래닛 사내 AI 프로젝트 Chat DIC에서 AWS Bedrock의 Prompt Caching 기능을 활용해 쿼리 생성 속도와 비용을 최적화한 사례를 다룹니다. 0. 개요 AWS Bedrock의 Prompt Caching은 반복적으로 사용되는 프롬프트 문맥(예: syste…
이 글은 SK플래닛 사내 AI 프로젝트 Chat DIC에서 AWS Bedrock의 Prompt Caching 기능을 활용해 쿼리 생성 속도와 비용을 최적화한 사례를 다룹니다. 0. 개요 AWS Bedrock의 Prompt Caching은 반복적으로 사용되는 프롬프트 문맥(예: syste…