물리 법칙과 경계 조건을 동시에 학습하는 신경망에서, 옵티마이저가 무충돌 방향을 다시 충돌 상태로 되돌리는 현상을 발견하고, 적용 단계에서 한 번 더 정렬하는 장치를 추가했다.

물리 법칙과 경계 조건을 동시에 학습하는 신경망에서, 옵티마이저가 무충돌 방향을 다시 충돌 상태로 되돌리는 현상을 발견하고, 적용 단계에서 한 번 더 정렬하는 장치를 추가했다.

무엇이 문제였나 — PINN은 PDE 잔차, 경계, 초기 조건이라는 여러 손실을 함께 줄여야 하는데, 이 손실들이 서로 반대 방향으로 잡아당기는 일이 잦았다. 어떻게 풀었나 — 기존 그래디언트 수술은 옵티마이저에 들어가기 전 방향만 다듬었기 때문에, 모멘텀이나 Adam 같은 옵티마이저가 그 방향을 변형해 충돌이 다시 생겼다. 그래서 뭐가 좋아졌나 — 옵티마이저가 만든 실제 업데이트를 충돌-프리 콘 위로 다시 사영하고, 내부 통계도 함께 맞춰줘서 적용 단계 충돌을 0으로 만들었고, 상대 L2 오차가 최대 98.2%까지 줄었다.

위원회가 한 방향으로 합의했는데, 운전자가 그 합의와 다른 쪽으로 핸들을 살짝 돌리는 상황이다. GUA는 출발 직전에 다시 한 번 핸들을 보정해, 차가 실제로 합의된 방향으로 가게 만드는 장치다.

논문 정보

Jing Xiao, Xinhai Chen, Qinglin Wang, Menghan Jia, et al. · National University of Defense Technology · arXiv preprint (cs.LG) · 2026

왜 중요한가

PINN은 산업 시뮬레이션과 과학 연산에서 신경망으로 빠르게 편미분방정식을 풀기 위한 핵심 도구다. 이 연구는 학습 안정성을 가로막는 보이지 않는 병목을 짚어내고, 별도 아키텍처 변경 없이 적용 가능한 경량 수정만으로 정확도를 크게 끌어올렸다. 결과적으로 더 적은 시뮬레이션 비용으로 더 신뢰할 수 있는 해를 얻을 수 있다.

핵심 지표

어떻게 동작하나

다중 손실 L(θ)=Σi Li(θ)에서 손실별 그래디언트 gi,t로 만든 무충돌 콘 Ct = {d | G_t^T d ≥ 0}를 정의한다. 그래디언트 수술은 콘 안의 방향 at을 만들지만, 옵티마이저가 모멘텀·적응적 스케일·사전조건화·감쇠를 통해 at를 ut로 변형하면 at∈Ct가 ut∈Ct를 보장하지 않는다. GUA는 ut를 미터 M_t 하에서 Ct 위로 사영해 p_t를 얻고 θ_{t+1}=θ_t−η_t p_t로 적용한다. 사영으로 제거된 성분이 옵티마이저 내부 통계에 남지 않도록, p_t에서 재구성한 목표 모멘트로 부드럽게 정렬해 상태도 함께 보정한다. 이를 통해 적용 단계 충돌 Rp=0을 달성하면서 손실별 1차 감소를 유지한다.

핵심 수식:

C_t = { d ∈ ℝ^p | G_t^⊤ d ≥ 0 },    p_t = Π^{M_t}_{C_t}(u_t) = arg min_{d∈C_t} ½ ‖d − u_t‖²_{M_t}

C_t는 손실별 그래디언트와 내적이 모두 0 이상인 방향 집합(무충돌 콘)이고, p_t는 옵티마이저 제안 u_t를 M_t 거리 하에서 이 콘 위로 사영한 결과다. 사영된 p_t는 어떤 손실도 1차로 악화시키지 않으며, u_t가 이미 무충돌이면 p_t=u_t로 항등이 된다.

한계와 주의할 점

• 무충돌 판정이 국소 1차 그래디언트 기하에 기반하므로 곡률·유한 스텝·장기 최적화 효과는 명시적으로 반영되지 않는다.
• 하드 conflict-free 기준이 보수적일 수 있어, 1차 외에 유익해질 방향도 배제할 가능성이 있다.
• PINN 벤치마크 6종에 집중되어 있어, 더 일반적인 다중 작업 학습이나 대형 모델 파인튜닝에서의 효과는 별도 검증이 필요하다.
• 옵티마이저 단계에서 m차원 dual 문제 풀이가 추가되며, m이 커질수록 학습 시간 오버헤드가 가시화된다(40개 작업 CelebA에서 두드러짐).
• 상태 정렬의 정확한(ρ=1) 버전은 일부 설정에서 수치 불안정성을 보였고, 부드러운 정렬이 권고된다.
• Heat-MS 3-loss처럼 큰 그라디언트 불균형이 있는 설정에서 정확한 두 모멘트 정렬(ρ_m=ρ_v=1)이 수치적으로 불안정해진다.
• 옵티마이저 제안 ut가 이미 무충돌인 경우에도 사영 연산은 매 스텝 수행되며, m·p가 큰 대규모 작업에서는 학습 시간이 눈에 띄게 늘어난다.
• 국소 1차 근사가 무너지는 큰 학습률·큰 스텝 영역에서는 1차 안전성 보장이 충분하지 않을 수 있다.

시스템 적용 아이디어

논문의 기법을 비슷한 구조를 가진 시스템에 옮길 때의 적용 지점이다.

옵티마이저 단계 후 무충돌 콘 사영(업데이트-레벨 충돌 정렬)

다중 손실(예: 정확도·안전성·효율)을 동시에 줄이는 학습 파이프라인에서, 현재는 그래디언트 수술 단계에서만 충돌을 다듬는다. 그러나 Adam·AdamW·SOAP 같은 stateful 옵티마이저는 모멘텀·적응 스케일·사전조건화·감쇠로 방향을 변형해, 사영 이전 방향이 무충돌이더라도 적용 업데이트가 다시 충돌 상태가 된다(논문의 GUM). 손실별 그래디언트 gi,t로 무충볼 콘 C_t = {d | G_t^T d ≥ 0}를 정의하고, 옵티마이저가 만든 제안 u_t를 dual에서 m차원 활성집합 또는 음의 부호가 없는 QP로 C_t 위로 사영해 p_t = Π^{M_t}_{C_t}(u_t)를 만들고 θ ← θ − η p_t로 적용한다. 손실 수가 작은 경우(논문에서는 m∈{2,3})는 Gram 행렬 구성 비용 O(m²p)로 처리 가능하다.

적용 지점 — 다중 손실 학습의 옵티마이저 적용 단계 (옵티마이저와 파라미터 업데이트 사이)

기대 효과 — 적용 단계 충돌 Rp=0 보장, 논문에서 동일 메커니즘이 PINN 상대 L2 오차를 개별 설정 최대 98.2% 감소시켰음

옵티마이저 내부 상태의 소프트 정렬

옵티마이저 제안을 콘 위로 사영해 적용하더라도, 그 옵티마이저는 모멘텀·2차 모멘트 등 내부 통계에 원래(사영 전) 방향의 흔적을 그대로 들고 있다. 이 흔적이 다음 스텝의 제안을 다시 충돌 방향으로 끌고 가면 GUM이 재발한다. GUA는 p_t에 맞춰 재구성한 목표 모멘트 m̃_{t+1}, ṽ_{t+1}로 기존 통계 m̄_{t+1}, v̄_{t+1}를 m_{t+1} = (1−ρ_m)m̄_{t+1} + ρ_m m̃_{t+1} 식으로 부드럽게 섞는다(논문 식 6). ρ_m=ρ_v=0이면 방향 정렬만, 1이면 완전 대체. Adam·AdamW·RMSProp·SOAP 각각의 상태 갱신 규칙에 맞춰 동일 원리를 일반화한다. 정렬은 사영이 실제로 u_t를 수정한 경우에만 트리거해 불필요한 개입을 피한다.

적용 지점 — Adam/AdamW/RMSProp/SOAP 등 stateful 옵티마이저의 상태 갱신 단계

기대 효과 — 방향 정렬만으로도 큰 폭의 개선을 얻은 위에서 추가 향상, 완전 대체(ρ=1)는 일부 설정에서 수치 불안정성을 보였으므로 soft 정렬이 안정적

다중 단계 충돌률 진단(Rg→Ra→Ru→Rp 모니터링)

현재는 그래디언트 충돌을 Rg(원시)·Ra(수술 후) 정도로만 본다. GUA는 여기에 Ru(옵티마이저 제안)·Rp(적용 업데이트)를 추가해 4단계 시계열로 진단한다(논문 식 3). 다중 손실 학습 파이프라인의 학습 로그에 같은 진단을 추가하면, (1) 그래디언트 수술이 실제로 효과를 내는지(Ra≈0인지), (2) 옵티마이저가 그 효과를 얼마나 다시 깎아내리는지(Ru−Ra), (3) GUA 같은 사영이 실제로 적용 단계에서 충돌을 잡고 있는지(Rp≈0)를 즉시 확인할 수 있다. Rp>0이면 사영 모듈이 비정상, Ru≫Ra이면 옵티마이저-단계 충돌이 지배적이라는 사실을 한눈에 드러낸다.

적용 지점 — 다중 손실 학습의 학습 루프 진단(옵티마이저·사영 모듈 주변)

기대 효과 — GUM 자체의 존재를 정량적으로 가시화, 논문에서 Ru는 옵티마이저에 따라 0%부터 86.3%까지 광범위하게 나타남을 보였음

단계별 도입 로드맵

원문 PDF: 2026-09-03-gradient-update-mismatch-rethinking-conflict-free-training-of-physics-in.pdf