🧑💻 요약 AI 개발을 두고 "이러다 다 죽는다"는 속도조절론과 "멈추면 바로 탈락"이라는 가속론이 팽팽히 맞서고 있습니다. 앤트로픽·오픈AI 등 AI 개발사는 속도 조절과 인간의 통제 강화를 요구하고, 엔비디아는 해결 가능하다며 가속을 외치고 있습니다. 한국은 "늦출 여유가 없다"며…
안녕하세요. 아정당 플랫폼 백엔드 챕터의 박영민입니다. 아정당 플랫폼 프로덕트 팀은 애자일 방법론에 따라 스프린트 단위로 일합니다. 정기 배포는 주 1회지만, 비즈니스 특성상 핫픽스도 자주 나갑니다. 저희 서버는 쿠버네티스(Kubernetes) 위에서 돌아갑니다. 쿠버네티스는 컨테이너로…
AI가 먼저 거는 전화는 어떻게 만들까? 채널톡 FDE 이야기 - 2 Mango • AX Team / FDE - Backend - AI 안녕하세요. 채널 FDE팀의 망고입니다. 여러 고객사와 이야기를 나누던 중, 미납 안내나 가입 경로 설문처럼 기업이 고객에게 먼저 전화를 거는 아웃바운…
병원이 의료 AI를 진료에 활용하려면 데이터를 연결하고 관리할 기반과 의료진의 사용 절차를 마련하고, 운영 책임을 분명히 해야 합니다. 이번 IHF 2026에서는 병원들이 이 조건을 어떻게 준비하고 있는지 실제 사례를 통해 살펴봤습니다. 10월 20일 서울 코엑스 마곡 컨벤션센터에서 열…
왓챠는 다양한 취향을 가진 시청자들을 위해 다채로운 영상 콘텐츠들을 제공하고 있습니다. 이를 위해 왓챠는 고용량 원본 영상을 웹, 모바일, TV에서 원활히 재생할 수 있도록 압축하는 인코딩 작업을 Kubernetes 위에서 수행하고 있습니다. 하지만 복잡한 Kubernetes 환경에서…
안녕하세요, 당근 커뮤니티홈팀에서 백엔드를 개발하는 제이(Jay)예요. 당근 앱의 커뮤니티 탭에는 이웃이 알려 주는 동네 정보부터 소소한 일상과 취미까지 나누는 동네생활, 모임, 카페, 아파트가 모여 있어요. 커뮤니티홈팀은 이 서비스들의 글을 한데 모아 보여 주는 피드를 맡고 있어요.…
양자컴퓨터는 미래의 기술인 동시에 현재의 보안 체계가 준비해야 할 새로운 도전입니다. 이번 글에서는 양자컴퓨터 시대에 통신 보안을 강화하기 위한 방안과 통신 최초 접속 구간에 양자내성암호를 적용한 실증 이야기를 해보겠습니다. Written by 김예지님 안녕하세요. LG U+ 모바일디바…
critical-script, 배달의민족 웹뷰 로딩 성능을 30% 개선한 인라인 스크립트 로딩 전략 이야기 들어가며 배달의민족 앱은 일부 지면을 웹뷰로 구성하는 하이브리드 앱입니다. 대표적인 커머스 서비스인 B마트의 가게홈 지면도 웹뷰로 구성됩니다. 웹뷰는 한 번의 개발로 iOS와 An…
Module Federation: singleton이면 당연히 하나겠죠? 따로 빌드된 코드가 하나의 인스턴스를 참조하게 하기 Joon • Core Client Web - Frontend Invalid hook call. Hooks can only be called inside the b…
안녕하세요! kt cloud 마케팅커뮤니케이션팀 입니다. 🙋♂️ AI 기술이 빠르게 발전하면서 이를 뒷받침하는 데이터센터의 모습도 달라지고 있습니다. 더 많은 전력을 안정적으로 공급하고, 고성능 GPU에서 발생하는 열을 효과적으로 식히는 것은 물론, 필요한 인프라를 얼마나 빠르게 구축할…
로봇은 왜 챗봇보다 GPU를 더 먹을까 — 피지컬 AI 시대의 RFM… 젠슨 황의 두 번째 방한이 남긴 신호 1. 젠슨 황은 왜 7개월 만에 다시 왔나 2026년 6월 초, 젠슨 황 NVIDIA CEO가 다시 한국을 찾았습니다. 지난해 10월 경주 APEC, 이른바 '깐부치킨 회동'으로…
루프를 품은 그래프 엔지니어링: Claude Code와 OmO로 본 설계와 실행 "이 PR 리뷰하고, 문제 있으면 고쳐 줘." 코딩 에이전트에게 PR(Pull Request) 리뷰와 수정을 맡길 때 요청은 이 한 줄이면 되지만, 에이전트가 할 일은 여러 단계로 나뉩니다. 이를테면 PR의…
Executive Summary - 기업 AI의 성과는 모델 성능뿐 아니라, 기업 고유의 업무 맥락(컨텍스트)을 이해하는 능력에 달려 있습니다. - 컨텍스트 계층은 데이터에 의미와 규칙을 더해, AI의 분석을 실제 업무 실행으로 연결합니다. - 축적된 운영 지식을 AI가 활용할 수 있도…
안녕하세요. 카카오 Multimodal Model Training팀에서 카나나를 연구·개발하는 Polar(엄지환)입니다. 카카오가 자체 기술력만으로 밑바닥부터(from scratch) 개발한 독자 비전 인코더, Kanana-2-vision-encoder를 소개합니다. Kanana-2-v…
내진·면진·제진은 지진에 대응하는 서로 다른 공법이며 목표가 각각 붕괴 방지와 흔들림 사전 차단과 흔들림 감소로 나뉩니다. 내진등급이 높아도 지진 이후 전산실 장비의 가동은 보장되지 않습니다. 내진·면진·제진은 각각 구조체의 저항력과 전달되는 지진력과 구조물의 흔들림을 다루며 세 방식…
안녕하세요. MUSINSA Automation QE팀 정다정입니다. 저희는 앱 빌드나 웹 프론트엔드(FE) 배포가 끝날 때마다 실기기에서 BVT(Build Verification Test, 새 빌드의 핵심 기능이 정상 동작하는지 확인하는 테스트)를 자동으로 수행합니다. 결과는 Slack…
프론티어 모델 대신, 우리 모델이 모든 상담을 분석합니다 상담 분석 LLM을 자체 모델로 바꾸며, 비용은 99.4% 줄이고 성능은 상용 LLM보다 높인 이야기 Sammy • Machine Learning Engineer (Model Training) - AI 안녕하세요, 채널 AI팀 M…
안녕하세요. 토스증권 DBA Team 조규범입니다. 주문과 체결을 처리하는 API 뒤에는 Oracle DB가 있습니다. 이 DB에서 커밋이 늦어지면 커밋을 기다리던 세션이 모두 함께 멈추고, API 응답도 그만큼 늦어지는데요. 거래가 몰리는 정규장 시간에는 짧은 지연도 그냥 넘기기 어렵…
Executive Summary - 현대화의 우선순위는 도입 연도보다 업무 지연, 반복 입력, 데이터 불일치 등 사업에 미치는 영향으로 정해야 합니다. - AI를 활용한 자체 개발과 SaaS는 구독료뿐 아니라 개발·검증·운영·변경 비용을 같은 기간으로 비교해야 합니다. - 시스템 통합에…
Executive Summary - 도입을 넘어 '운영'으로의 패러다임 전환: 기업용 생성형 AI의 성패는 단순한 모델 도입이 아니라, 데이터 접근 권한 관리, 업무 규칙의 일관된 적용, 실행 결과의 통제 등 정교한 'AI 운영 역량' 확보에 달려 있습니다. - AI 에이전트 시대의 4…
프리로드 API 없는 광고 SDK에 프리로딩을 적용하며 배운 것 매시간 황금알(aka, 플레이허브 v2.1)의 반복형 광고 미션에서 프리로딩을 수명주기로 설계하기까지 시작하며 매시간 황금알(aka, 플레이허브 v2.1)은 여러 모바일 앱 안에서 사용자가 광고에 참여하고 포인트 같은 보상…
영상 최적화의 대상은 영상만이 아니었다 매시간 황금알(aka, 플레이허브 v2.1)의 거위는 단순한 장식이 아니라 사용자의 현재 상태와 다음 행동을 알려주는 UI였습니다. 하지만 여러 앱의 WebView에서 영상이 늦게 나타나거나 인라인으로 재생되지 않는 문제가 발생했습니다. 스틸 이미…
셋톱박스에서 발생하는 장애와 불량을 규칙 기반으로 즉시 감지하고, On-Device AI로 향후 장애/불량 가능성까지 예측하는 이중 자가 복구 시스템(Two-path Self-Healing) 시스템 PoC를 진행 했습니다. 서버 연결 없이 단말 내부에서 분석과 복구를 수행하며, 고객이…
들어가며 안녕하세요. 카카오뱅크 신사업클라이언트개발팀의 프론트엔드 개발자 Aiden입니다. 저희 팀은 카카오뱅크 앱 내 ‘투자’ 탭과 ‘혜택’ 탭을 중심으로, 네이티브 앱의 강력한 성능과 모바일 웹의 유연함을 결합하여 사용자에게 더욱 풍부하고 매끄러운 서비스 경험을 선사하고 있습니다.…
우리가 일해온 방식에 이름을 붙였습니다 Move Fast · Deep Dive · Share Out, 실제 업무에서는 어떻게 나타날까요? Channel Talk - 개발 문화 그 어느 때보다 빠르게 변하고 있고, 누구도 처음부터 정답을 알고 출발하지 않습니다. 결국 차이를 만든 것은 더…
안녕하세요! kt cloud 마케팅커뮤니케이션팀 입니다. 🙋♂️ AI 인프라 하면 가장 먼저 무엇이 떠오르시나요? 아마 많은 분이 GPU를 생각하실 텐데요. 더 많은 GPU와 더 빠른 네트워크를 확보하기 위한 경쟁이 치열해지면서 AI 인프라의 규모도 빠르게 커지고 있죠. 그런데 아무리…
DDoS 공격 상황에서의 성능 붕괴 무작위 패턴의 DDoS 공격(예: 위조된 소스 IP 및 포트를 사용하는 SYN flooding attack)은 OVS datapath의 구조적 전제 조건을 직접적으로 타격합니다. OVS의 고성능은 트래픽의 locality에 의존하기 때문입니다. 이 l…
우리 회사도 전자주주총회 도입 대상일까? 사전 준비사항 한눈에 보기 우리 기업도 전자주주총회를 도입해야 하는지, 기업이 준비해야 할 기본 사항은 무엇인지 알고 싶다면 아래 콘텐츠에서 더 자세히 확인해 보세요. 2027년부터 국내 주주총회 운영 방식에 큰 변화가 시작됩니다. 2027년 1…
Executive Summary - 다양한 GPU를 하나의 통합 자원처럼: 멀티클러스터링으로 여러 클러스터의 GPU를 필요에 따라 함께 선택하고 활용합니다. - 장애, 없앨 수 없다면 손실을 줄여봅시다: 장애 감지·복구 시간을 줄여 유효 학습 시간 비율(ETTR)을 높여야 합니다. -…
버그 티켓, AI에게 맡겨봤습니다 — QUBA 개발기 QA가 등록한 Jira 버그 티켓을 AI Agent가 먼저 조사하고, 원인과 수정안까지 제안한다면 어떨까요? 사이드 프로젝트로 시작한 버그 처리 자동화 Agent ‘QUBA’의 설계 과정과, 분석 품질을 좌우한 데이터 임베딩·RAG…
소속팀: HQ 작성자: 한선호 2027 AI 전망과 AI MSP의 다음 단계 — 글로벌 Top 10 리포트로 읽는 AI 에이전트 시대 Oct 13, 2026 · @minji kang 들어가며: 2026년, AI는 시험 단계를 넘어섰다 2026년 글로벌 리포트 10편이 공통으로 가리키는…
소속팀: HQ 작성자: 한선호 BESPIN GLOBAL TECH BLOG AI 에이전트를 ‘디지털 직원’으로 관리하다 베스핀글로벌이 전사 업무 자동화의 효과를 숫자로 증명한 방법, Agent Workforce Management(AWM) Vertical Solution 1팀 · 2026…
생성형 AI로 기능을 만들기 위해 모델을 호출하는 것은 어렵지 않습니다. 하지만 실제 서비스에 적용하려면 사용할 모델과 데이터의 처리 범위를 정하고, 예상 비용과 필요한 처리 용량도 검토해야 합니다. 서비스 팀마다 이 과정을 따로 준비하면 비슷한 작업을 반복하게 됩니다. 모델 공급자별…
안녕하세요. 토스증권 Data Infra 팀 장재영입니다. 토스증권에서는 벡터 검색 워크로드를 지원하기 위해 Milvus 기반의 검색 환경을 구성했는데요. 실제 서비스에 적용하기 전에, 요구하는 검색 품질과 응답 속도를 만족하려면 어느 정도의 물리 서버 자원이 필요한지 확인해야 했습니다…
Executive Summary - 에이전틱 AI는 질문에 답하는 도구에서 업무를 실행하는 시스템으로 이동하고 있습니다. MCP와 같은 연결 표준은 AI를 데이터와 도구에 연결하지만, 실제 경쟁력은 연결 이후의 업무 설계에서 발생합니다. - 에이전트 사용 자체는 곧 기본 조건이 됩니다.…
글. 심수현(Dante) / 전시개발팀 안녕하세요. 전시개발팀에서 여기어때 서비스를 개발하고 있는 단테입니다. 저희 팀은 레거시 API와 신규 API의 응답이 같은지 비교하기 위해 쉐도잉이라는 방법을 사용합니다. 쉐도잉(Shadowing)이란? 실제 요청을 신규 로직에도 보내 기존 로직…
글. 박이슬(스노우) / 공통플랫폼개발팀 안녕하세요, 여기어때컴퍼니 공통플랫폼개발팀 스노우입니다. 1편에서는 Confluence와 Jira에 흩어진 문서를 모아 검색 가능한 형태로 바꿨고, 2편에서는 그 위에 LightRAG와 Navigator를 얹었습니다. 여기까지 오면 질문을 던졌을…
글. 양현진(Cople) / 전시개발팀 안녕하세요. 전시개발팀 코플입니다. 저는 올해 사내에서 팀 이동을 하게 되었습니다. 공통플랫폼개발팀에서 약 2년 반 정도 플랫폼 개발 경험을 쌓고 전시개발팀으로 이동한 지 약 5개월이 지났습니다. 처음 경험하는 서비스 도메인 영역에서 우선적으로 서…
안녕하세요, 유저혜택개발팀 윌비입니다. AI가 코드를 짜 주는데 개발자는 이제 대체되는 것 아니냐는 말이 심심찮게 나옵니다. 저는 개발자가 없어지는 것이 아니라, 필요한 것이 코딩에서 다른 데로 옮겨 갔다고 생각합니다. 팀에서 AI 워크스페이스를 함께 만들어 쓰면서 겪은 고민과 지금 하…
감전 사고, 흔한 '저압'이 품고 있는 치명적인 위협 전기는 눈에 보이지도, 냄새가 나지도 않습니다. 그래서 더욱 치명적입니다. 흔히 수만 볼트의 특고압 철탑이나 대형 변압기만 위험하다고 생각하기 쉽지만, 실제 감전 사망 사고의 절대다수는 우리가 매일 만지는 220V/380V의 '저압(…
IaaS는 서버·스토리지·네트워크 같은 컴퓨팅 인프라를 인터넷으로 필요한 만큼 빌려 쓰는 클라우드 서비스 모델입니다. IaaS의 책임 범위는 가상화 계층을 기준으로 나뉩니다. 제공자는 네트워크부터 가상화까지 관리하고 사용자는 운영체제부터 데이터까지 운영합니다. IaaS 과금 방식은 종량…
하루가 다르게 AI 워크로드의 패러다임이 빠르게 바뀌고 있습니다. 초기 AI 인프라(AI v1으로 칭함)는 단순했습니다. 짧은 추론 요청 처리만 했으면 됐었으나 최근 등장한 자율형 AI 에이전트(AI v2으로 칭함)는 전혀 다른 특성을 가집니다. | 구분 | AI v1 (추론 서비스)…
생성형 AI가 본격적으로 확산되면서 클라우드 인프라를 바라보는 기준도 빠르게 바뀌고 있습니다. 예전에는 CPU 기반 가상 서버를 얼마나 안정적으로 제공하느냐가 중요했다면, 지금은 대규모 AI 모델을 얼마나 빠르게 학습시키고 안정적으로 운영할 수 있느냐가 더 중요한 기준이 됐습니다. NV…
통합 서버에서 하이브리드 아키텍처로의 진화 잡코리아 메인 페이지에서는 다양한 형태의 CPT(Cost Per Time) 상품을 제공하고 있습니다. 주문 상품, 테마관, 슈퍼기업관 등 각기 다른 특성을 가진 상품들이 사용자에게 노출되는데요. 이러한 상품들의 데이터를 조회하고 HTML 데이터…
Lisa Su, AMD chief executive officer (CEO and chair), said on the 7th that the company will establish an artificial intelligence (AI) research center in Korea a…
OSV-Scanner와 GitLab CI로 취약점 패치 반영을 앞당기는 5단계 AI로 취약점을 찾는 속도는 빨라졌지만, 패치가 우리 조직의 리포지터리에 반영되는 속도까지 함께 빨라지지는 않습니다. 취약점을 찾은 뒤 패치를 만들고 취약점 정보를 공개하기까지 시간이 걸리고, 패치가 나온 뒤…
Executive Summary - 엔터프라이즈 클라우드의 역할은 단순히 인프라 제공을 넘어 복잡한 IT 환경을 표준화하고 통제하는 '기업 통합 운영체계'로 재설계되어야 합니다. - AI 기술 스택의 운영 복잡성을 해결하기 위해 표준 운영, 워크로드 최적화, 보안 내재화, 운영 자동화라…
안녕하세요. 당근 DB팀에서 근무하고 있는 Eden(이든)이에요. 당근 DB팀에서는 Aurora MySQL / Aurora PostgreSQL 및 MongoDB 를 운영하고 있어요. 이번에 Aurora MySQL 을 운영하며 경험했던 이슈를 소개해 드리려고 해요. “인덱스를 INVISI…
지난 9월 10일 목요일, 컴투스플랫폼의 첫 오프라인 기술 세미나 ‘Hive Tech Summit 2026: Beyond the backend’가 열렸고 성공적으로 마무리됐다. 테크AM팀이 주관한 이번 행사는 각 팀의 실무자들이 업무를 통해 쌓아온 경험과 노하우를 참석자들과 나누기 위해…
지난 몇 년간 국내외 많은 기업이 AX(AI Transformation)를 경영 어젠다로 올렸습니다. 그럼에도 실제 현장의 온도는 선언만큼 뜨겁지 않습니다. AI 도구를 개인 업무에 도입하는 속도는 빨랐지만 그 경험이 조직 전체의 생산성으로 이어지는 사례는 여전히 드뭅니다. 범용 AI는…
Executive Summary - 기업의 AI 주권은 인프라·플랫폼·솔루션 계층별 통제 수준을 Own(소유)·Operate(운영)·Contract(계약)로 나누어 설계할 때 확보됩니다. 같은 회사 안에서도 업무에 따라 통제 수준은 달라야 합니다. - AI 통제 수준은 기술만으로 정해지…
안녕하세요. 무신사 PEL 조직 공통서비스 파트에서 백엔드 개발을 하는 조현근입니다. 사내 여러 서비스가 함께 쓰는 공통 플랫폼을 담당하고 있습니다. 이번 로깅 문제도 그 과정에서 살펴보게 됐습니다. 트래픽이 많은 한 서비스에서 장애가 발생했습니다. 해당 팀의 장애 분석 자료를 보다가…
LLM 에이전트는 목표를 받으면 필요한 정보를 찾고 적절한 도구를 선택해 실행하며, 그 결과를 관찰한 뒤 다음 행동을 결정합니다. Anthropic은 에이전트를 활용한 여러 실험을 공개했습니다. Claude Sonnet 4.5로 Claude.ai를 재현하는 실험 과 Claude Opus…
안녕하세요. 토스 Commerce Personalization Team에서 토스 쇼핑의 추천 시스템을 만들고 있는 ML Engineer 구국원입니다. 추천 시스템은 흔히 더 좋은 모델을 만드는 문제로 보입니다. 하지만 실제 서비스를 운영하다 보면 모델 바깥에도 성능을 좌우하는 중요한 결…
안녕하세요, 올리브영에서 백오피스 시스템 개발을 담당하고 있는 찬입니다. 형상관리 시스템에 커밋하고 배포까지 마쳤는데, 운영 서버의 동작이 로컬 환경과 다르게 나타난 적이 있으신가요? Single Source of Truth(단일 진실 공급원)여야 할 형상관리 시스템과 운영 환경의 실행…
안녕하세요. 공통플랫폼개발팀 김성훈입니다. 🐥 입사한지 이제 막 6개월이 넘어가는 시점에 기술 블로그를 작성하려고 하니 감회가 새롭네요. 🥳 최근 프로젝트에서 Outbox Pattern을 사용하면서 PostgreSQL(이하 PG) Daily Partitioning을 진행했습니다. 이 과…
| | AI 서비스를 안정적으로 운영하려면 어떤 인프라와 기술이 필요할까요? 이번 케클s피드에서는 kt cloud summit 2026에서 공개한 고객의 AX를 뒷받침하는 인프라 전략을 소개합니다. AI 데이터센터의 전력 인프라와 구축·운영 기술부터 AI 서비스의 성능과 비용을 함께 고…
Product Engineer 시리즈 3편. 1편 우리는 Product Engineer를 선택했나, 2편 Product Engineer의 가능성과 조건에 이어지는 글입니다. 6월 2일, iOS 릴리즈 브랜치에 제가 작업한 기능을 되돌리는 PR이 올라와 있었습니다. 주문상세 화면에 새로…
AI 경쟁의 중심이 모델과 서비스에서 이를 실제로 구동하는 인프라로 빠르게 확장되고 있다. 고성능 AI를 구현하려면 반도 체와 컴퓨팅 자원, 데이터, 클라우드, 네트워크는 물론 산업현장과 현실 세계에 AI를 연결하는 소프트웨어와 하드웨어 기 반까지 함께 갖춰져야 한다. AI 산업의 지속…
고객의 한마디가 기능이 되기까지, AI 에이전트로 시작하는 제품 개발 사이클 안녕하세요. 인포그랩에서 소프트웨어 엔지니어로 근무하는 Andy입니다. 저는 고객사 자동화 프로젝트를 진행하며 n8n의 워크플로와 운영 데이터를 한곳에서 관리하는 인포그랩의 제품 Nelper를 개발하고 있습니다…
Executive Summary - 분산학습의 진입 장벽은 학습 코드뿐 아니라 인프라(GPU 클러스터·고속 네트워크·스토리지), 분산 소프트웨어(병렬화 전략·버전 정합), 운영(스케줄링·모니터링·장애 대응)의 세 계층을 함께 준비해야 한다는 데 있습니다. Managed Training…
AI 시대의 진짜 병목은 GPU가 아니라 '전기'입니다 몇 년 전만 해도 데이터센터 신축의 관건은 부지와 건축비, 서버 조달이었습니다. 지금은 다릅니다. 사업의 성패를 가르는 첫 질문은 언제나 이것입니다. "그래서, 거기 전기 들어옵니까?" 랙당 전력밀도는 과거 2~5kW에서 40~10…
Executive Summary - PPM(Project & Portfolio Management)은 올바른 프로젝트를 선택하고 제한된 예산과 자원을 전략적으로 배분하는 관리 체계입니다. 개별 프로젝트의 일정과 비용을 관리하는 프로젝트 관리와 달리, 여러 프로젝트의 가치와 우선순위를 포…
Swift 6 어때요? (2): executor, job, hop_to_executor 런타임 소스 좀 읽어 봤습니다 Ian • iOS Engineer - Mobile 이 글은 채널톡 iOS 팀이 2025년 겨울부터 진행한 Swift 6 스터디를 정리하는 Swift 6 어때요? 시리즈의…
핵심 요약 | 항목 | 내용 | |---|---| | RTO (Recovery Time Objective) | 장애 발생 후 서비스가 복구되기까지 허용 가능한 최대 시간 | | RPO (Recovery Point Objective) | 장애 발생 시 손실을 허용할 수 있는 최대 데이터…
date slug author status tags(최대 3개) summary type thumbnail category updatedAt TL;DR - 사내 인프라 문의는 2024년 745건에서 올해 9월까지 1,267건으로 늘었습니다. 사람을 늘리는 대신, 누가 받아도 같은 맥락에서…
Sep 28, 2026 Engineering The Age of Metered Intelligence: From Data Centers to Token Factories - Jinho Heo Technical Writer Sep 28, 2026 Engineering The Age of…
Executive Summary - AI 책임 체계는 담당자 지정만으로 완성되지 않습니다. AI가 어떤 데이터를 사용하고 어떤 권한으로 작동하는지, 문제가 발생했을 때 누가 중단과 재발 방지를 결정하는지까지 연결되어야 합니다. - AI의 책임 범위는 전체 실행 시스템입니다. 생성형 AI…
안녕하세요, 올리브영에서 매장·본사 업무 시스템을 개발하고 있는 임밥입니다. 오늘은 오래된 문자 발송 데몬을 걷어내면서, 발송량에 견주면 한참 과해 보이는 구조를 일부러 택했던 이야기를 해보려 합니다. 저희 메시지 발송 시스템의 평소 발송량은 초당 1건에도 미치지 못합니다. 이는 저희…
사장님 입점신청 자동승인 주기를 10분에서 10초로 사장님의 입점신청 요청들은 자동승인 처리가 시작되기까지 최소 3분에서 최대 12분 59초가 걸렸습니다. 이 대기를 10초 이내로 줄인 과정을 기록한 글입니다. 그림 출처: AI 자동생성(https://youmind.com) 세 줄 요약…
1. AI와 인프라의 결합: 과거의 한계와 MCP의 패러다임 전환 기존의 대규모 언어 모델(LLM)은 뛰어난 추론 능력을 갖추었음에도 불구하고 ‘인프라와의 물리적 격리’라는 명확한 한계를 지니고 있었습니다. - 과거 (Isolating Chatbot): 엔지니어가 터미널(kubectl…
AI 추론 메모리 병목과 서버 변화는 2026년 AI 인프라를 이해할 때 반드시 짚어야 할 흐름입니다. AI 인프라를 이야기할 때 가장 먼저 떠오르는 요소는 여전히 GPU입니다. 대형 언어 모델 학습, 멀티모달 모델 처리, 고성능 AI 데이터센터 구축 모두 GPU 성능과 밀접하게 연결되…
안녕하세요, kt cloud 마케팅커뮤니케이션팀입니다. AI 서비스를 실제 비즈니스로 구현하기 위해서는 모델뿐 아니라 충분한 컴퓨팅 자원, 서비스에 최적화된 클라우드 환경, 대규모 워크로드를 안정적으로 운영할 수 있는 인프라가 함께 뒷받침되어야 합니다. kt cloud summit 20…
Memory DB는 무엇으로 가득 차 있었을까 - 2부 : BCAST 전환과 Failover 안녕하세요. 할당시스템 파트 서버 엔지니어, Simon 이상원입니다. 'MemoryDB는 무엇으로 가득 차 있었을까?'의 2부 글입니다. 1부에서는 MemoryDB 메모리의 85%를 채우고 있던…
루프 엔지니어링 실전: Claude Code /goal 분석과 Stop 훅 재구현 안녕하세요. 인포그랩 AI DevOps 엔지니어 Harvey입니다. LLM에 도구와 실행 환경을 연동한 코딩 에이전트로 업무를 자동화하는 건 이제 낯설지 않습니다. 요즘은 Claude Code나 Codex…
Sep 23, 2026 Engineering Building a Unified AI Accelerator Testbed on OpenStack and Public Cloud - Yubin Kim Software Engineer Sep 23, 2026 Engineering Building…
안녕하세요! 카카오에서 유저 편의성을 높이는 데 관심이 많은 토리입니다. 카카오에는 정말 다양한 서비스와 그 안에 쌓이는 방대한 데이터가 있습니다. 이 많은 콘텐츠와 유저를 잘 이어주는 역할을 하는 것이 바로 추천이고, 그중에서도 "얼마나 이 유저에게 맞는 콘텐츠를 보여주는가"는 서비스…
소속팀: 마케팅 작성자: 윤현집 B2B 영업 미팅에 들어가 보면 흥미로운 패턴이 하나 있습니다. 처음 만나는 고객인데, 처음 만나는 것 같지 않다는 겁니다. 고객은 이미 우리 회사가 어떤 프로젝트를 했는지, 어떤 기술 스택을 다루는지, 심지어 어떤 실패를 겪고 어떻게 해결했는지까지 알고…
Executive Summary - LLM 추론의 병목은 GPU 연산량보다 메모리일 수 있습니다. 긴 컨텍스트와 동시 요청이 늘면 KV Cache가 HBM(High Bandwidth Memory)을 빠르게 점유해 Cache 재계산과 응답 지연을 일으킵니다. - 이 문제는 GPU를 추가하…
안녕하세요! 카카오뱅크에서 이번 KodeRunner 2026의 기획과 총괄 운영을 담당한 기술XR팀의 Ashley, Chedda입니다. 2022년 첫발을 내디뎠던 카카오뱅크의 사내 기술 컨퍼런스 KodeRunner(이하 코드러너)가 어느덧 다섯 번째 해를 맞이했습니다. 해를 거듭하며 코…
Go embed: 최소 변경으로 불필요한 메모리 사용 줄이기 세줄 요약 - 외부 파일(GeoIP DB)을 읽는 부분에서 heap 비중이 큰 것을 발견 - GeoIP DB를 mmap으로 읽는 방법과 []byte 로 직접 embed하는 방법을 비교, 두 방식 모두 heap 복사 제거 가능…
Executive Summary - AI의 성과는 모델보다 업무 연결 방식에 달려 있습니다. 팔로알토네트웍스의 82% 자동화 사례는 AI 에이전트를 반복 업무와 연결하고, 데이터·시스템·사람의 검토 지점을 함께 설계했을 때 성과가 커질 수 있음을 보여줍니다. - AI 자동화는 사람의 업…
안녕하세요! 😆 'ItemLM: 상품 정보 기반의 임베딩 생성기', 'T4 GPU 1장으로 일궈낸 올리브영의 Gemma 3 기반 sLLM 구축기'에 이어 세 번째 글로 돌아왔습니다. 올리브영에서 머신러닝으로 다양한 문제를 풀고 있는 🪄 데이터 사이언티스트 안일호입니다. 지난 글에서는 T…
고성능 GPU 1만 장은 칩만으로 약 7MW를 소비해 소도시급 전력에 맞먹습니다. 전력밀도·발열·하중을 일반 서버실이 감당하지 못해 전용 데이터센터가 필요합니다. AI GPU는 서버·랙·상면과 전력·냉각 설비를 갖춘 데이터센터에서만 제대로 작동합니다. GPU 확보 후 시작되는 고민 ‘G…
안녕하세요. 기술본부 데이터인텔리전스셀 박현기입니다. 이 글에서는 Databricks Unity Catalog의 Metric View를 신규 런칭 게임의 데이터 파이프라인에 도입하면서, 대시보드와 분석 에이전트가 같은 지표 정의를 읽게 하기 위해 데이터 구조를 어떻게 나눴는지, 그 과정…
Executive Summary - AX는 AI 기능을 추가하는 일이 아니라, AI와 사람이 일하는 방식에 맞춰 업무와 비즈니스를 다시 설계하는 일입니다. AI가 핵심 업무의 기반이 될수록 기업은 그 기반을 누가, 어떤 조건으로 통제하는지 결정해야 합니다. - 소버린 AI는 기업의 업무…
기술성과 사업성을 충분히 검증받은 딥테크 스타트업이라도 산업 현장 적용을 전제로 한 실증(PoC) 기회를 확보하기까지는 적지 않은 시간이 소요됩니다. 대·중견기업 현업 부서와의 접점이 제한적이고 PoC 레퍼런스 부재가 초기 매출 전환과 후속 투자유치의 병목으로 작용하는 경우가 많기 때문…
Executive Summary - AI 서비스의 평가 대상은 모델에서 서비스 전체로 확장되었습니다. AI가 문서 검색, 업무 시스템 호출, 다단계 실행까지 수행하면서 도입 전 품질 평가가 중요한 통제 장치가 되었습니다. - 모델 성능 점수만으로는 실제 서비스 품질을 판단할 수 없습니다…
대규모 데이터 인프라 환경에서 안정적이고 빠른 데이터 입수는 하위 분석 작업과 비즈니스 의사결정의 중요한 초석이라고 생각합니다. 기존 인프라에서는 1,200여 개의 데이터 파이프라인이 Oozie XML을 통해 관리되고, 데이터 입수 도구로 Sqoop이 사용되고 있었습니다. 해당 시스템은…
새 모델이 나올 때마다 우리는 먼저 리더보드를 봅니다. 모델의 지능이 얼마나 높은지, 수학을 잘 푸는지, 코드를 잘 짜는지. 점수가 높으면 자연스럽게, 이 모델이면 우리 서비스도 더 좋아지겠다는 기대를 하게 되죠. 하지만 실제 서비스에 붙여 보면 꼭 그렇지만은 않습니다. 영어를 잘 이해…
Executive Summary - AI 경쟁력의 패러다임 전환: 기업 AX의 핵심이 '최고 성능 모델의 확보'에서 '업무 목적에 따른 유연한 모델 교체 및 통제 능력'으로 이동하고 있습니다. - 데이터 기반의 실무적 선택 기준: 일반 벤치마크가 아닌 자사 업무 맞춤형 기반의 품질 평가…
집 나간 네트워크는 돌아왔는데 React.lazy는 왜 안 돌아올까 들어가며 파트너(업주)님이 영업 내내 주문을 받는 배민주문접수 웹뷰를 개발하던 중 QA 과정에서 네트워크 OFF -> ON으로 변경 후 다른 화면으로 이동 시 오류 화면이 노출된다는 티켓을 전달받았습니다. 원인을 파악해…
AI가 데이터센터의 전력·물·폐열 부담을 동시에 키우면서 전력만 재는 PUE 하나로는 효율을 모두 확인하기 어려워졌습니다. AI 데이터센터 시대에는 실제 환경 성능을 보기 위해 물은 WUE, 폐열은 ERF, 재생에너지는 REF로 지표를 추가해 네 축을 함께 봅니다. 선도 사업자는 이미…
Executive Summary - 요청 건수 기준의 한도와 균등 분배를 전제로 만들어진 기존 API Gateway는 LLM 추론에서 한계를 드러냅니다. 특정 사용자의 자원 독점을 막지 못하고, 위험한 입력을 거를 장치가 없으며, GPU를 늘려도 특정 서버에만 요청이 쌓입니다. - In…
여러분들은 예상치 못한 먼 타지의 영상에서 의외의 아이디어를 얻어본 적, 있으신가요? 인프런은 언어의 장벽을 넘어 폭 넓은 지식을 전달해드리기 위해 자막, 더빙에 이어 영상 화면에 있는 글자까지 번역하는 영상 화면 번역 기능을 준비하고 있습니다. 최근에 인프런에서 공개한 DeNA × A…