https://techllm.github.io/tags/llm-%EC%B6%94%EB%A1%A0/Recent content in LLM 추론 on TechLLMHugokoThu, 18 Jun 2026 22:04:00 +0900https://techllm.github.io/posts/kv-cache-compression-turboquant-oscar-epicache/Thu, 18 Jun 2026 22:04:00 +0900https://techllm.github.io/posts/kv-cache-compression-turboquant-oscar-epicache/긴 컨텍스트 LLM의 진짜 병목은 연산이 아니라 KV 캐시 메모리입니다. 2026년 상반기에 세 가지 다른 답이 동시에 나왔습니다. 구글·NYU의 TurboQuant, Together AI의 OSCAR, 애플의 EpiCache를 한 자리에서 비교합니다.