로컬LLM on TechLLMhttps://techllm.github.io/tags/%EB%A1%9C%EC%BB%ACllm/Recent content in 로컬LLM on TechLLMHugokoWed, 17 Jun 2026 01:40:00 +0900AMD 라이젠 AI Halo 발표 — 4천 달러대 박스에서 200B 모델을 로컬로https://techllm.github.io/posts/amd-ryzen-ai-halo-200b-local-ai-developer/Wed, 17 Jun 2026 01:40:00 +0900https://techllm.github.io/posts/amd-ryzen-ai-halo-200b-local-ai-developer/AMD가 라이젠 AI Max+ 395, 128GB 통합 메모리, 50 TOPS NPU를 묶은 '라이젠 AI Halo' 개발자 플랫폼을 공개했다. 200B 파라미터 모델까지 로컬에서 돌리고, 4,699달러 NVIDIA DGX Spark보다 700달러 싼 3,999달러에 책정되며 윈도우·리눅스 모두 지원한다.Reachy Mini 완전 로컬화 — 클라우드 없이 speech-to-speech 로봇 대화https://techllm.github.io/posts/reachy-mini-local-speech-to-speech-llm/Thu, 28 May 2026 14:14:00 +0900https://techllm.github.io/posts/reachy-mini-local-speech-to-speech-llm/Reachy Mini 로봇이 이제 클라우드 없이 대화한다. llama.cpp + Gemma 4, Silero VAD, Parakeet-TDT STT, Qwen3-TTS를 로컬에서 구동하는 완전 프라이빗 음성 파이프라인이다.Mac에서 돌리는 로컬 LLM 서버 — oMLX, 계층형 KV 캐시와 연속 배칭https://techllm.github.io/posts/omlx-apple-silicon-llm/Sat, 16 May 2026 11:25:00 +0900https://techllm.github.io/posts/omlx-apple-silicon-llm/Apple Silicon Mac용 LLM 추론 서버 oMLX. RAM+SSD 2계층 KV 캐시, 연속 배칭, 멀티모델 동시 서빙을 메뉴바 앱으로 제어한다. GitHub 스타 1.4만.