https://techllm.github.io/tags/%EB%A9%94%EB%AA%A8%EB%A6%AC-%EC%B5%9C%EC%A0%81%ED%99%94/Recent content in 메모리 최적화 on TechLLMHugokoThu, 18 Jun 2026 22:04:00 +0900https://techllm.github.io/posts/kv-cache-compression-turboquant-oscar-epicache/Thu, 18 Jun 2026 22:04:00 +0900https://techllm.github.io/posts/kv-cache-compression-turboquant-oscar-epicache/긴 컨텍스트 LLM의 진짜 병목은 연산이 아니라 KV 캐시 메모리입니다. 2026년 상반기에 세 가지 다른 답이 동시에 나왔습니다. 구글·NYU의 TurboQuant, Together AI의 OSCAR, 애플의 EpiCache를 한 자리에서 비교합니다.https://techllm.github.io/posts/efficient-deep-learning-optimization-guide/Tue, 26 May 2026 20:10:00 +0900https://techllm.github.io/posts/efficient-deep-learning-optimization-guide/GPT-2 1.5B 모델에 왜 GPU 메모리 24GB가 필요한가? 데이터 타입, 메모리 소비 구조, 양자화 원리를 단계별로 풀어낸 딥러닝 최적화 종합 가이드.