https://techllm.github.io/tags/%EC%A0%95%EB%B0%80%EB%8F%84/Recent content in 정밀도 on TechLLMHugokoThu, 22 Oct 2026 07:34:27 +0900https://techllm.github.io/posts/hardware-acceleration-of-block-diffusion-llm-for-edge-devices/Thu, 22 Oct 2026 07:34:27 +0900https://techllm.github.io/posts/hardware-acceleration-of-block-diffusion-llm-for-edge-devices/이 논문은 요청을 한 건씩 처리하는 엣지 기기에서 블록 확산 LLM의 반복적인 메모리 읽기 비용을 줄이기 위해 메모리 구조 WIFiV-LPDDR, KV 정밀도 조절 BRQ-KV, FFN 재사용 DAT-FFN을 함께 설계한다. 모델 기반 평가에서 1.5B/7B 모델의 평균 에너지 감소율은 3.79×/3.96×, 평균 지연시간 속도 향상은 2.88×/4.44×였으며, 보고된 압축 설정의 벤치마크 점수 하락은 각 기준 대비 1%p 미만이었다.