월 150만 유저가 사용하는 LLM Inference 인프라 안정적으로 운영하기 - 스캐터랩 블로그
김성환 | #ML Engineer | #Infrastructure #Kubernetes #Azure 저희는 자체 LLM Spotwrite를 활용한 AI 엔터테인먼트 서비스 제타(zeta)를 운영하고 있습니다. 제타는 한국, 일본 AI 서비스 중 사용자가 가장 많은 압도적인 1위 서비스로…
김성환 | #ML Engineer | #Infrastructure #Kubernetes #Azure 저희는 자체 LLM Spotwrite를 활용한 AI 엔터테인먼트 서비스 제타(zeta)를 운영하고 있습니다. 제타는 한국, 일본 AI 서비스 중 사용자가 가장 많은 압도적인 1위 서비스로…