TechBlogHub · 회사 · 주제

월 150만 유저가 사용하는 LLM Inference 인프라 안정적으로 운영하기 - 스캐터랩 블로그

스캐터랩 ·

김성환 | #ML Engineer | #Infrastructure #Kubernetes #Azure 저희는 자체 LLM Spotwrite를 활용한 AI 엔터테인먼트 서비스 제타(zeta)를 운영하고 있습니다. 제타는 한국, 일본 AI 서비스 중 사용자가 가장 많은 압도적인 1위 서비스로…

원문 읽기 (스캐터랩 블로그) →

#백엔드#데이터#분산 시스템#AI · ML#인프라 · DevOps#성능#관측 가능성