TechBlogHub · 회사 · 주제

생성형 AI 기반 실시간 검색 결과 재순위화 2편 - LLM 서빙

네이버 ·

생성형 AI 기반 실시간 검색 결과 재순위화 2편 - LLM 서빙 - 등록일 - 2024.09.24 - | - 코멘트 - 5975 1편 - 서빙 시스템 아키텍처에서는 서빙 시스템에서 검색 서버에 추가되는 요청을 줄이는 방법과 캐싱을 활용한 최적화 방법 등을 다루었습니다. 2편에서는 대형…

원문 읽기 (네이버 D2) →

#백엔드#데이터#분산 시스템#AI · ML#인프라 · DevOps#성능#관측 가능성