LLM추론 on TechLLMhttps://techllm.github.io/tags/llm%EC%B6%94%EB%A1%A0/Recent content in LLM추론 on TechLLMHugokoMon, 25 May 2026 18:06:00 +0900AI가 연구 수준 수학 문제를 푼다 — RMA 에이전트 시스템 논문 분석https://techllm.github.io/posts/rma-research-math-agents-agentic/Mon, 25 May 2026 18:06:00 +0900https://techllm.github.io/posts/rma-research-math-agents-agentic/경쟁 수학이나 형식 증명을 넘어, 실제 연구자들이 다루는 난도의 수학 문제를 AI 에이전트 팀이 자율적으로 풀어낸다. GPT-5.2R과 Aletheia를 넘어선 RMA 프레임워크를 해부한다.학습 없이 GPQA Diamond 88.89% — Darwin Family, 가중치 재조합으로 프론티어 추론 달성https://techllm.github.io/posts/darwin-training-free-reasoning/Sat, 16 May 2026 12:00:00 +0900https://techllm.github.io/posts/darwin-training-free-reasoning/그래디언트 한 번 없이 오픈소스 LLM 가중치를 재조합해 GPQA Diamond 88.89%를 찍은 Darwin Family. 14차원 머지 게놈, MRI-Trust Fusion, 이종 아키텍처 교배로 훈련 비용 없이 SOTA 추론을 꺼냈다.Mac에서 돌리는 로컬 LLM 서버 — oMLX, 계층형 KV 캐시와 연속 배칭https://techllm.github.io/posts/omlx-apple-silicon-llm/Sat, 16 May 2026 11:25:00 +0900https://techllm.github.io/posts/omlx-apple-silicon-llm/Apple Silicon Mac용 LLM 추론 서버 oMLX. RAM+SSD 2계층 KV 캐시, 연속 배칭, 멀티모델 동시 서빙을 메뉴바 앱으로 제어한다. GitHub 스타 1.4만.LLM 추론 속도를 공짜로 24% 높이는 법 — 비동기 연속 배칭https://techllm.github.io/posts/hf-continuous-async-batching/Sat, 16 May 2026 08:27:00 +0900https://techllm.github.io/posts/hf-continuous-async-batching/GPU가 멀쩡히 켜져 있는데 24%는 그냥 낭비된다. CUDA 스트림과 이벤트로 CPU·GPU를 동시에 돌리는 비동기 연속 배칭의 원리를 처음부터 설명한다.