Jev: 문장 대신 판단을 돌려주는 AI
TypeSafe AI Jev의 Choice·Score·Noul 구조, 확신도를 사용한 코드 분기, CS·RAG·인용 검증 사례와 한계를 살펴봅니다.
Engineering조태완
Plaid Labs Articles
현장에서 배우고,
제품으로 증명한 것을 기록합니다
전체
Engineering
Design
Company
24시간 인프라 지킴이 AI 봇을 만들었습니다
Slack에서 부르면 서버와 Kubernetes를 확인하는 Plaiddy. OpenClaw와 Teleport 봇 인증을 연결하고, 인프라 운영 문서를 Agent의 작업 맥락으로 만든 과정을 소개합니다.
Engineering서지호
DeepSeek V4.1 Flash 아키텍처 분석
DeepSeek V4.1 Flash의 Engram은 n-gram을 어떻게 활용할까? Qwen3.8-Flash-Next와 비교하고, CED·CSA2가 문맥 비용을 줄이는 원리까지 살펴봅니다.
Engineering조태완
AI Agent는 왜 KV Cache가 중요한가: vLLM과 LMCache로 반복 문맥 비용 줄이기
긴 문맥을 반복하는 AI Agent에서 vLLM APC와 LMCache가 TTFT와 GPU 연산을 줄이는 원리, 적용 조건과 한계를 정리합니다.
Engineering조태완
Prometheus, Loki, LiteLLM, Langfuse로 만든 AI 기반 장애 분석 시스템
Prometheus·Loki 알림과 Kubernetes 상태·코드 문맥을 수집해 LLM이 1차 장애 진단을 작성하고 Slack에 전달하는 시스템 구축 과정을 소개합니다.
Engineering서지호
LLM을 작게 만드는 여러가지 압축 기술들
BitNet(1.58-bit), AutoRound(SignSGD), TurboQuant(KV 3-bit), REAP(MoE expert pruning) — 2026 LLM 압축 4기법의 메커니즘과 NVFP4와의 직교 결합 운영 가이드를 한 글에 정리.
Engineering조태완
LLM의 추론속도를 빠르게 만드는 비결, Speculative Decoding이란 무엇인가?
Speculative Decoding 원리부터 n-gram·Medusa·EAGLE-3·MTP(DeepSeek/Gemma 4)·DFlash까지 2026 LLM 추론 가속 기법과 vLLM·SGLang 실전 활성화를 한 번에 정리한 가이드입니다.
Engineering조태완
오픈소스 LLM 동향 2026: DeepSeek-V4·Qwen3.6·GLM-5.1
DeepSeek-V4(CSA+HCA), GLM-5(DSA·Slime), Qwen 3.5(256 expert MoE), MiniMax(Lightning Attn), Llama 4(iRoPE)까지 2026 오픈모델 아키텍처를 트랜스포머 블록 단위로 비교한 기술 동향 정리.
Engineering조태완
AI 전환의 다음 단계를함께 설계해보세요
제품 전략부터 AI·AX 구축까지,현재 문제에 맞는 실행 방안을 제안합니다.