Large Language Model / Long-Context Reasoning on TechLLMhttps://techllm.github.io/tags/large-language-model-/-long-context-reasoning/Recent content in Large Language Model / Long-Context Reasoning on TechLLMHugokoThu, 24 Sep 2026 07:34:58 +0900LLM이 긴 문서를 못 읽는 문제를, 텍스트를 잘라 여러 LLM에 동시에 읽히고 요약하게 한 뒤 그 요약들을 트리 모양으로 합치는 '컨볼루션 메모리'로 푼다.https://techllm.github.io/posts/convmem-convolutional-memory-for-long-context-reasoning/Thu, 24 Sep 2026 07:34:58 +0900https://techllm.github.io/posts/convmem-convolutional-memory-for-long-context-reasoning/ConvMem은 학습 없이 동작하면서(free of training) 동결된 LLM을 '의미 컨볼루션 커널'로 사용해 긴 문서를 계층적으로 처리하는 프레임워크다. 순차 메모리 에이전트의 O(N) 지연과 RL 기반 에이전트의 분포 외 과적합을 동시에 피하며, 컨텍스트 길이 28k~896k에서 RULER-HotpotQA와 OOD RULER-2WikiMultiHopQA 모두에서 training-free 베이스라인을 큰 차이로 앞선다.