https://techllm.github.io/tags/mist/Recent content in MIST on TechLLMHugokoFri, 07 Aug 2026 14:09:01 +0900https://techllm.github.io/posts/learning-when-to-trust-via-selective-context-preference-optimization/Fri, 07 Aug 2026 14:09:01 +0900https://techllm.github.io/posts/learning-when-to-trust-via-selective-context-preference-optimization/이 논문은 언어모델이 그럴듯하지만 틀린 문맥 신호에 휩쓸려 정답을 바꾸는 문제를 '선택적 신뢰(Selective Trust)'로 재정의한다. 23개 프론티어·오픈웨이트 모델을 MIST 벤치마크로 평가한 결과, 단일 오답 신호가 평균 17.1포인트의 정확도 손실을 일으키며 이 취약성은 보편적이었다. SCOPE라는 균형 잡힌 DPO 학습으로 Qwen3-4B·Llama-3.2-3B 두 계열에서 SC2W를 절반 가까이 줄이면서 clean·correct-context·irrelevant 제어 조건의 정확도를 모두 보존했다.