https://techllm.github.io/tags/gpu%EC%B5%9C%EC%A0%81%ED%99%94/Recent content in GPU최적화 on TechLLMHugokoSat, 30 May 2026 20:18:00 +0900https://techllm.github.io/posts/pytorch-torch-profiler-beginners-guide/Sat, 30 May 2026 20:18:00 +0900https://techllm.github.io/posts/pytorch-torch-profiler-beginners-guide/HuggingFace 팀이 공개한 PyTorch 프로파일링 시리즈 1편. torch.profiler 기본 설정부터 프로파일러 테이블·트레이스 해석, 오버헤드 바운드와 컴퓨트 바운드의 차이까지 행렬 곱셈 예제로 쉽게 설명한다.https://techllm.github.io/posts/hf-continuous-async-batching/Sat, 16 May 2026 08:27:00 +0900https://techllm.github.io/posts/hf-continuous-async-batching/GPU가 멀쩡히 켜져 있는데 24%는 그냥 낭비된다. CUDA 스트림과 이벤트로 CPU·GPU를 동시에 돌리는 비동기 연속 배칭의 원리를 처음부터 설명한다.