AI가 먼저 거는 전화는 어떻게 만들까? 채널톡 FDE 이야기 - 2 Mango • AX Team / FDE - Backend - AI 안녕하세요. 채널 FDE팀의 망고입니다. 여러 고객사와 이야기를 나누던 중, 미납 안내나 가입 경로 설문처럼 기업이 고객에게 먼저 전화를 거는 아웃바운…
Hello. We are the Security Development Division (LINE Plus Security R&D) team, working to integrate AI into internal security operations. This is the first part…
Executive Summary - 실행 기록에 요청한 직원 이름만 남는 경우가 많습니다. 어느 에이전트가 어떤 권한으로 무엇을 했는지 알 수 없으면 사고 원인을 확인하기 어렵습니다. 요청자·에이전트·권한·접근 데이터를 연결해 추적해야 합니다. - 에이전트는 정상 권한으로 일하므로 권한…
안녕하세요, 당근 커뮤니티홈팀에서 백엔드를 개발하는 제이(Jay)예요. 당근 앱의 커뮤니티 탭에는 이웃이 알려 주는 동네 정보부터 소소한 일상과 취미까지 나누는 동네생활, 모임, 카페, 아파트가 모여 있어요. 커뮤니티홈팀은 이 서비스들의 글을 한데 모아 보여 주는 피드를 맡고 있어요.…
로봇은 왜 챗봇보다 GPU를 더 먹을까 — 피지컬 AI 시대의 RFM… 젠슨 황의 두 번째 방한이 남긴 신호 1. 젠슨 황은 왜 7개월 만에 다시 왔나 2026년 6월 초, 젠슨 황 NVIDIA CEO가 다시 한국을 찾았습니다. 지난해 10월 경주 APEC, 이른바 '깐부치킨 회동'으로…
루프를 품은 그래프 엔지니어링: Claude Code와 OmO로 본 설계와 실행 "이 PR 리뷰하고, 문제 있으면 고쳐 줘." 코딩 에이전트에게 PR(Pull Request) 리뷰와 수정을 맡길 때 요청은 이 한 줄이면 되지만, 에이전트가 할 일은 여러 단계로 나뉩니다. 이를테면 PR의…
안녕하세요. 카카오 Multimodal Model Training팀에서 카나나를 연구·개발하는 Polar(엄지환)입니다. 카카오가 자체 기술력만으로 밑바닥부터(from scratch) 개발한 독자 비전 인코더, Kanana-2-vision-encoder를 소개합니다. Kanana-2-v…
프론티어 모델 대신, 우리 모델이 모든 상담을 분석합니다 상담 분석 LLM을 자체 모델로 바꾸며, 비용은 99.4% 줄이고 성능은 상용 LLM보다 높인 이야기 Sammy • Machine Learning Engineer (Model Training) - AI 안녕하세요, 채널 AI팀 M…
Executive Summary - 다양한 GPU를 하나의 통합 자원처럼: 멀티클러스터링으로 여러 클러스터의 GPU를 필요에 따라 함께 선택하고 활용합니다. - 장애, 없앨 수 없다면 손실을 줄여봅시다: 장애 감지·복구 시간을 줄여 유효 학습 시간 비율(ETTR)을 높여야 합니다. -…
버그 티켓, AI에게 맡겨봤습니다 — QUBA 개발기 QA가 등록한 Jira 버그 티켓을 AI Agent가 먼저 조사하고, 원인과 수정안까지 제안한다면 어떨까요? 사이드 프로젝트로 시작한 버그 처리 자동화 Agent ‘QUBA’의 설계 과정과, 분석 품질을 좌우한 데이터 임베딩·RAG…
소속팀: HQ 작성자: 한선호 2027 AI 전망과 AI MSP의 다음 단계 — 글로벌 Top 10 리포트로 읽는 AI 에이전트 시대 Oct 13, 2026 · @minji kang 들어가며: 2026년, AI는 시험 단계를 넘어섰다 2026년 글로벌 리포트 10편이 공통으로 가리키는…
생성형 AI로 기능을 만들기 위해 모델을 호출하는 것은 어렵지 않습니다. 하지만 실제 서비스에 적용하려면 사용할 모델과 데이터의 처리 범위를 정하고, 예상 비용과 필요한 처리 용량도 검토해야 합니다. 서비스 팀마다 이 과정을 따로 준비하면 비슷한 작업을 반복하게 됩니다. 모델 공급자별…
0. 들어가며 PM: "여기에 관련 문서 모아 두었어요. 확인 부탁드립니다." 개발자가 기획을 전달받을 때 흔히 마주하는 장면입니다. 문서 링크가 담긴 메시지를 받으면 개발자는 그것을 다시 개발 요건으로 정리한 뒤에야 구현에 들어갑니다. 이 과정을 반복하다 보니 한 가지 의문이 들었습니…
AI 번역본입니다. 영어 원문 보기첨부된 슬라이드, 동영상, 이미지는 원본 언어로 제공됩니다. Figma, 더 가볍게. 버즈빌은 이번 분기에 Figma 계정을 Organization에서 Professional로 전환해 달라고 요청했습니다. 디자인팀의 일하는 방식이 달라진 데 따른 결정입…
안녕하세요. 토스증권 Data Infra 팀 장재영입니다. 토스증권에서는 벡터 검색 워크로드를 지원하기 위해 Milvus 기반의 검색 환경을 구성했는데요. 실제 서비스에 적용하기 전에, 요구하는 검색 품질과 응답 속도를 만족하려면 어느 정도의 물리 서버 자원이 필요한지 확인해야 했습니다…
글. 김수비(소피) / 공통플랫폼개발팀 안녕하세요, 여기어때컴퍼니 공통플랫폼개발팀 소피입니다. 1편에서는 검색을 만들기 전에 바닥을 다졌습니다. Confluence와 Jira에 흩어진 문서를 증분으로 모으고, 검색에 쓸 수 없는 JSON을 Markdown으로 바꾸고, 이미지에는 대체 텍…
글. 박이슬(스노우) / 공통플랫폼개발팀 안녕하세요, 여기어때컴퍼니 공통플랫폼개발팀 스노우입니다. 1편에서는 Confluence와 Jira에 흩어진 문서를 모아 검색 가능한 형태로 바꿨고, 2편에서는 그 위에 LightRAG와 Navigator를 얹었습니다. 여기까지 오면 질문을 던졌을…
안녕하세요, 유저혜택개발팀 윌비입니다. AI가 코드를 짜 주는데 개발자는 이제 대체되는 것 아니냐는 말이 심심찮게 나옵니다. 저는 개발자가 없어지는 것이 아니라, 필요한 것이 코딩에서 다른 데로 옮겨 갔다고 생각합니다. 팀에서 AI 워크스페이스를 함께 만들어 쓰면서 겪은 고민과 지금 하…
Lisa Su, AMD chief executive officer (CEO and chair), said on the 7th that the company will establish an artificial intelligence (AI) research center in Korea a…
이번 글에서는 Amazon Bio Discovery가 어떤 플랫폼인지 살펴보고, 주요 기능과 특징을 소개해보겠습니다. 간단한 실습을 통해 Amazon Bio Discovery의 주요 기능을 직접 확인하고, 실제 사용 과정도 함께 살펴보겠습니다. 🧬 Amazon Bio Discovery란…
Executive Summary - 엔터프라이즈 클라우드의 역할은 단순히 인프라 제공을 넘어 복잡한 IT 환경을 표준화하고 통제하는 '기업 통합 운영체계'로 재설계되어야 합니다. - AI 기술 스택의 운영 복잡성을 해결하기 위해 표준 운영, 워크로드 최적화, 보안 내재화, 운영 자동화라…
플랫폼 행성에 떨어진 서비스 개발자 느닷없이 거센 돌풍이 불어 낯선 땅에 착륙했다든지, 망망대해에서 방향을 잃고 외딴 섬에 표류하게 되었다든지, 시공간이 뒤틀려 새로운 행성에 도착했다든지. 낯선 곳에서 홀로 남겨져 살아남아야 하는 이야기들이 참 많습니다. 그중에서도 소설을 원작으로 한…
Korea’s semiconductor industry is entering a new phase, driven by the rapid growth of AI. HBM has become essential to AI infrastructure, but its high cost also…
지난 9월 10일 목요일, 컴투스플랫폼의 첫 오프라인 기술 세미나 ‘Hive Tech Summit 2026: Beyond the backend’가 열렸고 성공적으로 마무리됐다. 테크AM팀이 주관한 이번 행사는 각 팀의 실무자들이 업무를 통해 쌓아온 경험과 노하우를 참석자들과 나누기 위해…
"이 YAML은 누가 작성하나요?" kt cloud에서 NEXT 프로젝트를 진행하던 시절, 회의에서 심심치 않게 오가던 질문입니다. 배포 파이프라인을 작성하고 수정하는 건 개발자 몫이었고, Kubernetes 매니페스트를 손보는 것도, CI 스크립트가 실패하면 원인을 추적하는 것도 결국…
LLM 에이전트는 목표를 받으면 필요한 정보를 찾고 적절한 도구를 선택해 실행하며, 그 결과를 관찰한 뒤 다음 행동을 결정합니다. Anthropic은 에이전트를 활용한 여러 실험을 공개했습니다. Claude Sonnet 4.5로 Claude.ai를 재현하는 실험 과 Claude Opus…
AI 경쟁의 중심이 모델과 서비스에서 이를 실제로 구동하는 인프라로 빠르게 확장되고 있다. 고성능 AI를 구현하려면 반도 체와 컴퓨팅 자원, 데이터, 클라우드, 네트워크는 물론 산업현장과 현실 세계에 AI를 연결하는 소프트웨어와 하드웨어 기 반까지 함께 갖춰져야 한다. AI 산업의 지속…
고객의 한마디가 기능이 되기까지, AI 에이전트로 시작하는 제품 개발 사이클 안녕하세요. 인포그랩에서 소프트웨어 엔지니어로 근무하는 Andy입니다. 저는 고객사 자동화 프로젝트를 진행하며 n8n의 워크플로와 운영 데이터를 한곳에서 관리하는 인포그랩의 제품 Nelper를 개발하고 있습니다…
Executive Summary - 분산학습의 진입 장벽은 학습 코드뿐 아니라 인프라(GPU 클러스터·고속 네트워크·스토리지), 분산 소프트웨어(병렬화 전략·버전 정합), 운영(스케줄링·모니터링·장애 대응)의 세 계층을 함께 준비해야 한다는 데 있습니다. Managed Training…
[신청 중] AI 제품을 만들 때, 자체 모델과 검색엔진은 언제 필요할까요? 모델 학습부터 검색엔진 고도화까지, 실제 AI 제품을 만드는 과정에서의 고민과 경험을 공유합니다. Somma • DevRel - 개발 문화 좋은 모델을 만드는 것만으로 좋은 AI 제품이 완성되지 않습니다. 실제…
Sep 28, 2026 Engineering The Age of Metered Intelligence: From Data Centers to Token Factories - Jinho Heo Technical Writer Sep 28, 2026 Engineering The Age of…
안녕하세요. 토스뱅크에서 주택담보대출을 디자인하고 있는 Product Designer 김혜미입니다. 이번 글에서는 전세대출 팀에서 AI 상담 서비스를 디자인했던 과정을 얘기해 보려고 해요. 정보는 충분했지만 확신은 없었다 전세대출 팀에서 하는 고민은 대체로 이런 거예요. 플로우를 어떻게…
1. AI와 인프라의 결합: 과거의 한계와 MCP의 패러다임 전환 기존의 대규모 언어 모델(LLM)은 뛰어난 추론 능력을 갖추었음에도 불구하고 ‘인프라와의 물리적 격리’라는 명확한 한계를 지니고 있었습니다. - 과거 (Isolating Chatbot): 엔지니어가 터미널(kubectl…
AI 추론 메모리 병목과 서버 변화는 2026년 AI 인프라를 이해할 때 반드시 짚어야 할 흐름입니다. AI 인프라를 이야기할 때 가장 먼저 떠오르는 요소는 여전히 GPU입니다. 대형 언어 모델 학습, 멀티모달 모델 처리, 고성능 AI 데이터센터 구축 모두 GPU 성능과 밀접하게 연결되…
루프 엔지니어링 실전: Claude Code /goal 분석과 Stop 훅 재구현 안녕하세요. 인포그랩 AI DevOps 엔지니어 Harvey입니다. LLM에 도구와 실행 환경을 연동한 코딩 에이전트로 업무를 자동화하는 건 이제 낯설지 않습니다. 요즘은 Claude Code나 Codex…
Sep 23, 2026 Engineering Building a Unified AI Accelerator Testbed on OpenStack and Public Cloud - Yubin Kim Software Engineer Sep 23, 2026 Engineering Building…
안녕하세요! 카카오에서 유저 편의성을 높이는 데 관심이 많은 토리입니다. 카카오에는 정말 다양한 서비스와 그 안에 쌓이는 방대한 데이터가 있습니다. 이 많은 콘텐츠와 유저를 잘 이어주는 역할을 하는 것이 바로 추천이고, 그중에서도 "얼마나 이 유저에게 맞는 콘텐츠를 보여주는가"는 서비스…
토스 앱은 매주 새 버전을 내보냅니다. 그 과정에서 플랫폼별로 5~7개의 RC(Release Candidate, 배포 후보) 빌드가 쌓이고, 빌드가 나올 때마다 누군가는 회원가입부터 로그인, 자산, 송금까지 같은 화면을 손으로 눌러 봅니다. 핵심 기능이 망가지진 않았는지 빠르게 훑는 스…
AI Agent “Megatron” 이야기 — LangChain/LangGraph 기반 Agentic Loop와 MCP로 연결한 실행 백엔드가, 반복되던 CDC 온보딩 절차를 대화 하나로 줄인 과정을 실제 구현 기준으로 이야기해 봤습니다. “Data & AI Platform Peace…
Executive Summary - LLM 추론의 병목은 GPU 연산량보다 메모리일 수 있습니다. 긴 컨텍스트와 동시 요청이 늘면 KV Cache가 HBM(High Bandwidth Memory)을 빠르게 점유해 Cache 재계산과 응답 지연을 일으킵니다. - 이 문제는 GPU를 추가하…
Executive Summary - AI의 성과는 모델보다 업무 연결 방식에 달려 있습니다. 팔로알토네트웍스의 82% 자동화 사례는 AI 에이전트를 반복 업무와 연결하고, 데이터·시스템·사람의 검토 지점을 함께 설계했을 때 성과가 커질 수 있음을 보여줍니다. - AI 자동화는 사람의 업…
안녕하세요! 😆 'ItemLM: 상품 정보 기반의 임베딩 생성기', 'T4 GPU 1장으로 일궈낸 올리브영의 Gemma 3 기반 sLLM 구축기'에 이어 세 번째 글로 돌아왔습니다. 올리브영에서 머신러닝으로 다양한 문제를 풀고 있는 🪄 데이터 사이언티스트 안일호입니다. 지난 글에서는 T…
Executive Summary - AI 서비스의 평가 대상은 모델에서 서비스 전체로 확장되었습니다. AI가 문서 검색, 업무 시스템 호출, 다단계 실행까지 수행하면서 도입 전 품질 평가가 중요한 통제 장치가 되었습니다. - 모델 성능 점수만으로는 실제 서비스 품질을 판단할 수 없습니다…
새 모델이 나올 때마다 우리는 먼저 리더보드를 봅니다. 모델의 지능이 얼마나 높은지, 수학을 잘 푸는지, 코드를 잘 짜는지. 점수가 높으면 자연스럽게, 이 모델이면 우리 서비스도 더 좋아지겠다는 기대를 하게 되죠. 하지만 실제 서비스에 붙여 보면 꼭 그렇지만은 않습니다. 영어를 잘 이해…
Executive Summary - AI 경쟁력의 패러다임 전환: 기업 AX의 핵심이 '최고 성능 모델의 확보'에서 '업무 목적에 따른 유연한 모델 교체 및 통제 능력'으로 이동하고 있습니다. - 데이터 기반의 실무적 선택 기준: 일반 벤치마크가 아닌 자사 업무 맞춤형 기반의 품질 평가…
안녕하세요. 토스증권 Data Infra 팀 Data Engineer 장재영입니다. 지난 상반기 동안 ML Platform 팀의 김진웅 님과 함께 Kubernetes 기반 GPU 클러스터를 구축했는데요. 오늘은 그 과정에서 겪은 문제와 해결 방법을 공유하려고 합니다. 토스증권의 서비스와…
Executive Summary - 요청 건수 기준의 한도와 균등 분배를 전제로 만들어진 기존 API Gateway는 LLM 추론에서 한계를 드러냅니다. 특정 사용자의 자원 독점을 막지 못하고, 위험한 입력을 거를 장치가 없으며, GPU를 늘려도 특정 서버에만 요청이 쌓입니다. - In…
여러분들은 예상치 못한 먼 타지의 영상에서 의외의 아이디어를 얻어본 적, 있으신가요? 인프런은 언어의 장벽을 넘어 폭 넓은 지식을 전달해드리기 위해 자막, 더빙에 이어 영상 화면에 있는 글자까지 번역하는 영상 화면 번역 기능을 준비하고 있습니다. 최근에 인프런에서 공개한 DeNA × A…
Voice Turn Detection 모델 개발기 VoiceALF가 “입을 뗄 타이밍”를 배우게 하려면 Bard • KR Office Applied AI Engineer - AI 전화는 생각보다 고도화된 의사소통이다 채널톡은 VoiceALF를 통해 전화 상담의 여러 문제를 AI로 풀고…
글. 변자룡(Jr)/유저혜택개발팀 안녕하세요. 여기어때 유저혜택개발팀 제이알입니다. 요즘 업무에 AI를 활용하지 않는 분은 없을 거라 생각합니다. 다만 사용하는 방식은 다들 제각각이겠죠. 제 경우를 말씀드리면, 집에서는 OpenClaw 같은 개인 비서형 AI를 쓰고 있습니다. 어제 뭘…
안녕하세요, 데브옵스 엔지니어 포카입니다. 인프랩에서는 자막 번역, 강의 상세 생성, 학습 에이전트, 커뮤니티 답변 등 꽤 많은 곳에서 LLM API를 쓰고 있습니다. 처음에는 각 서비스가 필요한 제공 업체에서 API 키를 발급받아 직접 호출하는 방식이었는데요. 사용처가 서른 곳을 넘어…
목차 1. 왜 신뢰연구환경(TRE, Trusted Research Environment)인가? 1.1 데이터를 확보해도, 허들은 남아 있습니다 정밀 의료의 시대에 연구 기관의 경쟁력은 데이터를 얼마나 가졌는가가 아니라, 얼마나 안전하게 쓸 수 있는가로 옮겨 가고 있습니다. 방대한 임상·…
AI 질문은 입력·네트워크·서버 배정·GPU 추론·응답까지 5단계를 거쳐 데이터센터를 왕복합니다. AI 질문 한 번은 약 0.3Wh를 씁니다. LED 전구를 2분 켜는 전력이지만, 하루 수십억 건이 쌓이면 연간 3.65TWh로 도시 하나의 1년 전력과 맞먹습니다. AI 사용량이 급증하면…
안녕하세요, 토스뱅크 ML Engineer 김경윤입니다. 지난 글 DS와 MLE가 함께 일하는 법에서, 마지막에 이런 문장을 한 줄 남겼어요. AI로 코드를 작성하게 되면서, 역할 나누기를 넘어 코드 스타일까지 맞추는 게 새로운 협업 과제가 됐습니다. 오늘은 위 내용에 이어서 얘기해보려…
if(kakao)2026 첫째 날은 AI 방향성, 신뢰와 안전, Model & Agent, 상생과 성장에 대해 이야기합니다. 키노트를 제외한 총 23개의 기술 세션들이 아래와 같이 진행됩니다. 1. You Only Train Once: 더 효율적으로 Kanana SLM 개발하기 (류민호…
if(kakao)2026 둘째 날은 안정성과 인프라, 거버넌스, AI-DLC, Model & Agent에 대해 이야기합니다. 키노트를 제외한 총 30개의 기술 세션들이 아래와 같이 진행됩니다. 1. 유휴 서버를 찾다가 Hybrid Cloud까지 갔습니다: 비용 가시화에서 Unit Eco…
⛳️핵심 요약 카카오엔터프라이즈가 주요 증권사를 대상으로 ‘증권형 AI 인프라 전략 세미나’를 개최했습니다. 증권업계의 AI 도입과 활용 사례, LLM 서빙 방법론에서부터 온프레미스와 클라우드의 장점만을 결합한 ‘카카오클라우드 하이브리드 GPUaaS’까지 AX를 위한 AI 인프라 구축…
OpenAI에서 직접 알려주는 Codex 사용법 에이전틱 프로그래밍 가이드라인과 모두를 위한 Codex 실전 사용 팁 Babel • Machine Learning Engineer - 개발 문화 안녕하세요. 채널팀 Machine Learning Engineer 바벨입니다. 채널팀에서는 매…
1편: MATCH란 무엇인가 2편: MATCH Console & MAI 3편: 통합임베딩으로 개인화 푸시 안녕하세요. 무신사 Core-E Personalization 팀에서 개인화 모델을 개발하고 있는 오승모, 방효석입니다. 이 시리즈에서는 MATCH를 중심으로 데이터를 더 나은 결정으…
안녕하세요, 카카오클라우드입니다. 🙌 가천대학교 클라우드공학과에 재학 중인 두 분, Tory(이유석)와 Serin(김서연)이 카카오클라우드에서 3개월간의 현장 실습을 성공적으로 마쳤습니다. 전공 수업에서 차곡차곡 쌓아온 지식이 실제 기업 현장에서 실무 프로젝트로 실현되며 한 단계 더 깊…
스캐터랩은 자체 LLM으로 제타(zeta)의 수많은 유저에게 매일 새로운 이야기를 전하고 있습니다. 그동안 저희 블로그에서는 가장 재밌는 모델을 찾는 법, 유저 신호로 선호를 학습하는 법, 그것을 온라인으로 학습하는 법을 소개해 드렸는데요. 오늘은 조금 다른 층의 이야기를 해보려고 합니…
AI가 분석한 리서치 결과, 어떻게 만들고 전달할까요? 1. 들어가며 사용자경험분석팀에서는 리서치 업무를 지원하는 사내 서비스인 리서치 AI 도우미를 만들고 있어요. “배민클럽을 선택한 이유는 무엇인가요?”처럼 수천 명이 자유롭게 답한 설문응답을 이해하기 쉬운 카테고리로 분류해 보고서를…
이 글은 IDG의 아티클을 전재하여 제공합니다. [원문보기] Executive Summary - AI 에이전트 평가는 결과가 아닌 행동 전체를 검증하는 일입니다. 에이전트는 계획을 세우고 도구를 호출하며 여러 단계를 거쳐 업무를 수행합니다. 따라서 최종 답변뿐 아니라 실행 경로, 컨텍스…
지난 글 LLM as a Judge를 활용한 CodeBuddy 성능 평가에서는 사내 AI 코드 리뷰 서비스 코드버디(CodeBuddy)의 응답 품질을 어떻게 측정할 것인지를 다뤘습니다. 평가 체계를 세우고 나니 다음 질문이 따라왔습니다. "그래서 이 리뷰가 실제로 무엇을 막아주고 있는가…
올리브영은 2026년 3월 24일, 카카오와의 협업으로 올리브영의 뷰티 상품을 카카오톡 대화방에서 바로 추천받을 수 있는 MCP를 선보였습니다. 그리고 이때 다진 MCP 구조를 토대로, 2026년 8월에는 챗GPT에서 바로 올리브영 상품을 검색하고 추천받을 수 있는 전용 플러그인까지 출…
RAG에서 GraphRAG, AI Agent까지 생성형 AI와 LLM의 활용이 확대되면서 기업이 보유한 데이터를 AI와 연결하는 방법도 빠르게 발전하고 있습니다. 대표적인 방식이 RAG(Retrieval-Augmented Generation)입니다. RAG는 사용자의 질문과 관련된 정보…
안녕하세요, 토스증권 AI 데이터 플랫폼 팀에서 ML 엔지니어로 일하고 있는 황호익입니다. 이번 글에서는 토스증권 안에서 추천과 검색이 어떤 방향으로 진화하고 있는지 이야기해보려고 해요. 추천은 어떻게 배치 중심에서 실시간 개인화로 바뀌고 있는지, 검색은 어떻게 키워드와 필터를 넘어 R…
k6로 n8n 부하테스트 - worker를 8배 늘려도 처리량이 그대로인 이유 안녕하세요. 인포그랩에서 DevOps 엔지니어로 일하는 Chad입니다. 자동화 시스템을 운영하다 보면 "우리 시스템은 동시에 몇 건까지 버티나요?"라는 질문을 받습니다. 동시에 실행 중인 워크플로를 몇 건까지…
Executive Summary - 매주 새로운 오픈웨이트(OpenWeight) 모델이 벤치마크를 갱신하지만, 지능·속도·비용이 모두 우수한 단일 정답은 없습니다. 라이선스, 보유 GPU 규모, 다국어 지원, 고객 수요까지 함께 점검해야 실제 서비스로 이어집니다. - 추론은 요청마다 연…
사람과 여러 AI가 같은 코드를 다루는 시대에, ‘우리 조직만의 도메인 지식’을 모든 에이전트가 함께 읽게 만드는 법. 표준 기반 Core와 조직 특화 Overlay로 이뤄진 2층 시맨틱 레이어를 만들고, 그게 언제 통하고 언제 위험한지 150개 질문으로 비교해본 이야기. 낯선 레거시…
Hello. I am Yeoun Yi, an ML engineer on the AI Services Lab team. Our team develops models to prevent harmful OpenChat rooms from being exposed to users. In thi…
Executive Summary - 엔터프라이즈 AI의 성패는 모델 성능 자체가 아닌, 자율 에이전트의 비용 폭주와 데이터 파괴 리스크를 결정론적으로 통제하는 '제어층' 설계 역량에 달려 있습니다. - 이를 위해 단일 실행의 안전성을 강제하는 '하네스 엔지니어링(Harness Engin…
채널톡이 글로벌 상담 Agent를 GPT-5.6 Luna로 갈아탄 이유 공개 벤치마크 1위 모델이 아닌 리더보드에도 없는 모델을 선택했습니다. 지노 • Software Engineer - Backend - AI 또 새 모델이 나왔습니다 새 모델은 계속 나옵니다. 그때마다 프로덕션에서 A…
Executive Summary - 사원증 없는 동료: 출퇴근도, 사원증도 없지만 프로젝트에는 빠지지 않아요. AI는 우리 옆에서 함께 고민하고, 결과물을 함께 만드는 동료예요. - 마우스를 놓는 용기: 내가 직접 하는 게 빠를 것 같은 유혹을 참아야 해요. 우리는 이제 전략가이자 감독…
1편: MATCH란 무엇인가 2편: MATCH Console & MAI 안녕하세요. 무신사에서 MATCH의 개인화 기능과 운영 콘솔의 프론트엔드 및 백엔드 개발을 담당하고 있는 Core-E Personalization 팀의 김의중, 김건희입니다. 1편에서 우리는 MATCH를 ‘유저 단위…
요약 이 글은 같은 모델을 써도 에이전트 성능이 갈리는 이유가 모델이 아닌 하네스(모델을 둘러싼 환경 전체)에 있다는 관점에서, 프롬프트·컨텍스트·하네스 엔지니어링의 층위 차이를 구분하고 하네스를 구성하는 핵심 요소들을 다룹니다. 지시 문서(AGENTS.md)와 자동 검사 장치의 결합,…
Executive Summary - 은행권 AI 전환의 본질은 모델 경쟁이 아니라 실행 환경 경쟁입니다. AI가 은행 업무를 이해하고, 승인된 권한 안에서 안전하게 실행할 수 있는 구조가 핵심입니다. - AI 에이전트의 성패는 AI-Ready 데이터에 달려 있습니다. 조직마다 다른 업무…
Executive Summary - AI 인프라는 GPU 사양보다 워크로드 정합성을 먼저 봐야 합니다. 같은 GPU라도 모델 규모, 메모리 요구량, 학습·추론 비중, 목표 지연시간과 데이터 경로에 따라 실제 성능과 비용은 달라집니다. - 전체 시스템의 병목이 실제 성능을 결정합니다. G…
안녕하세요, 토스증권 Machine Learning Engineer 정현규입니다. LLM으로 콘텐츠를 만드는 일은 확실히 쉬워졌어요. 뉴스를 요약하고, 공시를 풀어 쓰고, 실적 발표를 자연스러운 문장으로 옮기는 건 이제 몇 줄의 프롬프트로도 어느 정도 됩니다. 그런데 그 결과물을 고객이…
AI 에이전트 스킬이 발동하지 않는 이유: SKILL.md 결함과 개선법 스킬을 만들었는데 필요한 순간에 실행되지 않은 적이 있으신가요? 발동은 했는데 엉뚱한 절차를 밟거나, 처음에는 잘 되다가 컨텍스트를 보탤수록 결과의 만족도가 떨어진 경험도 있으실 겁니다. Agent Skills는…
Executive Summary - GPUaaS의 가치는 GPU 자원을 필요한 만큼 제공하는 데 그치지 않습니다. 데이터센터, 고속 네트워크, 스토리지, 보안, 학습·추론 플랫폼을 하나의 구조로 통합해 AI 인프라의 구축과 운영 복잡성을 줄이는 데 있습니다. - 고성능 GPU의 성능을…
우리 팀만의 vLLM 플러그인 만들기 2편 - 모델 변환부터 배포까지 AI-native로 자동화하기 - 등록일 - 2026.08.10 - | - 코멘트 - 6029 1편에서는 검색·추천 모델을 vLLM 사용자 정의 플러그인으로 옮겨 서빙 성능을 높인 과정을 소개했습니다. 모델을 vLLM…
우리 팀만의 vLLM 플러그인 만들기 1편 - 검색 AI 모델 서빙 성능 극대화하기 - 등록일 - 2026.08.10 - | - 코멘트 - 5642 네이버 플레이스 AI MLOps는 지난 1년간 검색과 추천에 사용하는 스코어링 모델의 서빙 구조를 vLLM 기반으로 전환했습니다. 이 글에…
최근 AI 산업의 패러다임은 '학습(Training)' 단계를 넘어 '추론(Inference)'의 효율화로 완전히 넘어가고 있습니다. 이는 단순히 사용자의 질문에 한 번 답하고 끝나는 챗봇을 넘어, AI가 스스로 문맥을 파악하고 연속적인 작업을 수행하는 '에이전틱 AI(Agentic A…
콜러스 플레이어 더 알아보기 위에 소개한 세 가지 플레이어 외에도 서비스 형태와 디바이스 환경에 따라 선택할 수 있는 플레이어 옵션은 더 다양합니다. 우리 서비스에 맞는 세부 라인업과 상세 스펙은 콜러스 서비스 가이드에서 확인해 보세요! 동영상 서비스를 준비할 때, 대부분의 운영자는 '…
들어가며 — '아이디어'에서 '프로덕트'까지의 거리 "아이디어 → 배포"까지의 거리가 빠르게 짧아지고 있습니다. 과거에는 며칠, 길게는 몇 주가 걸리던 풀스택 웹앱 개발이, AI 코딩 어시스턴트와 클라우드 플랫폼의 결합으로 이제는 단 몇 시간이면 충분한 시대입니다. 이번 글에서는 'Vo…
Executive Summary - "알고는 있지만, 제대로는 모릅니다" : 직장인 10명 중 6명이 AI Agent를 안다고 답했지만, 정확한 개념을 이해한 사람은 3명에 불과했습니다. - "문제는 기술이 아니라 기업입니다" : AI Agent 실무 활용률은 17%에 그쳤으며, 가장…
안녕하세요. 당근 데이터 가치화팀이에요. 저희 팀은 ‘매일 데이터를 통해 사용자를 위한 의사결정을 해요’라는 비전 아래, 전사 구성원이 데이터로 더 나은 결정을 내릴 수 있도록 인프라와 도구들을 만들고 있어요. 그중 하나가 실험플랫폼이에요. 어떤 안이 더 나은지 A/B 테스트로 검증할…
안녕하세요, 토스뱅크 Product Foundation ML Service Team, ML Engineer 김경윤입니다. 1년 전, 이런 일이 있었어요. DS(Data Scientist)가 노트북에서 모델을 다 만들었습니다. 정확도도 잘 나오고, 노트북에서는 완벽하게 돌았죠. 그래서 그…
기술 전략 보고서 “AI-Ready Infrastructure” 정의 · 시장 현황 · Bespin MSP 인프라 조직 준비 방안 작성일 2026년 7월 · 대상: Delivery Excellence Office / 인프라 엔지니어링 요약 (Executive Summary) • “AI-…
How Nota AI Efficiently Optimized and Compressed Solar Open 2 with Backend.AI FastTrack 3 Within the Sovereign AI Foundation Model Project, Nota AI focused on m…
How Nota AI Efficiently Optimized and Compressed Solar Open 2 with Backend.AI FastTrack 3 Within the Sovereign AI Foundation Model Project, Nota AI focused on m…
[기고] AI SDLC, ‘모두 다 된다’는 약속을 경계하라 — 지금 필요한 것은 장밋빛 청사진이 아니라 검증된 로드맵이다 베스핀글로벌 AI & Data Tech Center 지난 2~3년 사이 소프트웨어 개발 현장에서 가장 극적인 변화를 만든 것은 단연 AI 코딩 어시스턴트다. 코드…
요즘 LLM은 공개된 지식에 관한 질문에는 꽤 능숙하게 답해요. 코드를 작성하고, 긴 문서를 요약하고, 복잡한 요청을 여러 단계로 나눠 처리하기도 하죠. 하지만 회사 안으로 들어오면 이야기가 달라져요. “이 기능의 현재 정책은 무엇인가요?” “문서에 적힌 내용이 실제 코드에도 반영되어…
김명현 | #Developer 어느 날 대표님이 Claude Code를 한참 쓰더니 뭔가를 만들어 왔습니다. 비주얼 노벨이랍니다. zeta처럼 AI가 스토리를 진행하는데, 인물과 배경도 그려줍니다. 로컬에서만 동작하긴 했지만, 개발자와 디자이너의 도움 없이 혼자 만들었다는 게 믿기지 않…