https://techllm.github.io/tags/dpo/Recent content in DPO on TechLLMHugokoFri, 07 Aug 2026 14:09:01 +0900https://techllm.github.io/posts/learning-when-to-trust-via-selective-context-preference-optimization/Fri, 07 Aug 2026 14:09:01 +0900https://techllm.github.io/posts/learning-when-to-trust-via-selective-context-preference-optimization/이 논문은 언어모델이 그럴듯하지만 틀린 문맥 신호에 휩쓸려 정답을 바꾸는 문제를 '선택적 신뢰(Selective Trust)'로 재정의한다. 23개 프론티어·오픈웨이트 모델을 MIST 벤치마크로 평가한 결과, 단일 오답 신호가 평균 17.1포인트의 정확도 손실을 일으키며 이 취약성은 보편적이었다. SCOPE라는 균형 잡힌 DPO 학습으로 Qwen3-4B·Llama-3.2-3B 두 계열에서 SC2W를 절반 가까이 줄이면서 clean·correct-context·irrelevant 제어 조건의 정확도를 모두 보존했다.https://techllm.github.io/posts/specialization-beats-scale-dharma-ocr/Sat, 23 May 2026 08:32:00 +0900https://techllm.github.io/posts/specialization-beats-scale-dharma-ocr/Dharma-AI의 DharmaOCR 벤치마크가 증명했다. 30억 파라미터 특화 모델이 모든 프론티어 API를 품질·비용·안정성 세 축에서 모두 앞섰다. 'AI는 클수록 좋다'는 조달 기본값이 흔들리고 있다.