https://techllm.github.io/categories/%EC%9D%B8%ED%94%84%EB%9D%BC/Recent content in 인프라 on TechLLMHugokoFri, 19 Jun 2026 07:10:00 +0900https://techllm.github.io/posts/baseten-1-5b-funding-13b-valuation-inference-gold-rush/Fri, 19 Jun 2026 07:10:00 +0900https://techllm.github.io/posts/baseten-1-5b-funding-13b-valuation-inference-gold-rush/AI 추론 스타트업 베이스텐(Baseten)이 5개월 만에 다시 15억 달러 라운드를 모은다는 보도가 나왔습니다. 밸류는 50억에서 130억 달러로 160% 점프. 추론 레이어에 돈이 몰리는 이유와, 베이스텐이 들고 있는 카드를 정리합니다.https://techllm.github.io/posts/deepseek-v4-43day-inference-optimization-race/Wed, 10 Jun 2026 23:01:35 +0900https://techllm.github.io/posts/deepseek-v4-43day-inference-optimization-race/DeepSeek V4 1.6T 공개 이후 43일 동안 NVIDIA, AMD, 화웨이 진영이 어떻게 성능을 끌어올렸는지 — SemiAnalysis 분석을 정리했습니다. AMD MI355X의 100배 향상, MegaMoE 커널, CSA/HCA, 그리고 NVIDIA TensorRT-LLM의 출시 첫날 사고까지.