Large Language Model / Reinforcement Learning on TechLLM

Large Language Model / Reinforcement Learning on TechLLMhttps://techllm.github.io/tags/large-language-model-/-reinforcement-learning/Recent content in Large Language Model / Reinforcement Learning on TechLLMHugokoTue, 03 Nov 2026 07:35:27 +0900작은 AI가 만든 풀이 앞부분을 학습 중에 큰 AI에게 보여 주고, 큰 AI가 나머지를 이어 풀도록 해 더 다양한 답을 찾게 하는 연구다.https://techllm.github.io/posts/boosting-llm-exploration-via-weak-model-guidance-in-rlvr/Tue, 03 Nov 2026 07:35:27 +0900https://techllm.github.io/posts/boosting-llm-exploration-via-weak-model-guidance-in-rlvr/이 논문은 RLVR 학습에서 큰 모델의 정책 엔트로피가 빠르게 낮아져 여러 정답 경로를 찾는 폭이 줄어드는 문제를 완화한다. 작은 보조 모델이 만든 풀이를 일부만 남겨 prefix로 사용하고, 일정 비율의 학습 사례에서만 큰 모델이 그 앞부분을 이어 풀게 한다. 6개 수학 벤치마크의 평균 pass@128은 Qwen2.5-7B에서 vanilla GRPO의 67.76%에서 70.71%로, Qwen2.5-Math-7B에서 69.30%에서 71.22%로 높아졌다.