TechBlogHub · 회사 · 주제

LLM 쉽고 빠르게 서빙하기

비바리퍼블리카 ·

요즘은 LLM(Large Language Model)의 시대입니다. 2022년에 ChatGPT가 처음 서비스된 이후로, 하루가 다르게 더 빠르고, 더 정확하고, 심지어 이미지나 비디오, 음성 등을 이해하고 생성하는 모델들이 등장하고 있습니다. 아래 그림처럼, 2024년 들어서 상용 LL…

원문 읽기 (토스 기술 블로그) →

#백엔드#데이터#분산 시스템#AI · ML#인프라 · DevOps#테스트#성능#관측 가능성