시험에서 확인하지 않은 곳에 오류가 있어도, 로봇이 그곳에 갈 수 있는지에 따라 위험이 달라진다는 점을 연구했습니다.

시험에서 확인하지 않은 곳에 오류가 있어도, 로봇이 그곳에 갈 수 있는지에 따라 위험이 달라진다는 점을 연구했습니다.

무엇이 문제였나 — 일부 경로에서만 코드를 시험하면, 시험하지 않은 곳의 잘못된 규칙은 검사에서 드러나지 않을 수 있습니다. 어떻게 풀었나 — 연구진은 원형 장벽의 틈과 출발 위치를 바꿔, 숨은 오류가 실제 이동 경로에 영향을 주는지 살펴봤습니다. 그래서 뭐가 좋아졌나 — 빠진 장벽을 막는 울타리와 잘못 만들어진 장벽을 없애는 수정은 서로 달랐고, 각각 계획의 손해를 줄였습니다.

일부 도로만 달려보는 운전 시험을 생각해 보세요. 시험에 합격해도 확인하지 않은 길의 위험까지 사라지는 것은 아닙니다. 그 길로 실제로 들어갈 수 있는지가 중요합니다.

논문 정보

Javier Aguilar Martín · AGILabs (javieraguilar.ai) · arXiv preprint (cs.LG) · 2026

왜 중요한가

시험에 통과했다는 사실만으로 모든 장소에서 안전하다고 단정할 수는 없습니다. 시험하지 않은 오류가 로봇의 실제 경로에 영향을 주는지 따져야 위험을 더 정확히 판단할 수 있습니다.

핵심 지표

어떻게 동작하나

RingField2D에서 안쪽 반지름 3.5, 바깥쪽 반지름 5.0인 고리형 정지 구역을 두고, 틈의 폭 γ, 방향, 출발 위치를 바꿨다. 에피소드 길이는 80이며, 기본 모델 생성·검사 절차는 N=40 uniform-random rollouts와 ε=10⁻⁹ 허용오차를 사용했다. 기제 비교는 조건별 400 rollouts와 artifact별 16 paired-seed MPC episodes를 사용했고, Figure 1의 γ 곡선은 지점당 4,000 CRN rollouts로 측정했다. LLM 실험은 주로 GPT-5.x mini·large를 셀당 20 seeds로 평가했으며 Qwen과 Claude는 spot check를 했다. 생성 코드의 동작을 81×81 상태 격자와 두 속도 조건에서 검사하고, 접촉 자료의 persistent homology를 분석했다. 고리의 위상 요약을 바꾸는 paired intervention은 9:2의 방향성 차이를 보였지만 p=0.065로 유의하지 않아 인과 효과로 단정하지 않았다. ShellField-n에서는 차원에 따른 접촉률과 계획 비용을 별도로 측정했다.

핵심 수식:

R=reachable queries under (f, μ₀, ρ, h); E(f)={f̂: f̂|R=f|R}; Pr(accept at every N)=1 if f̂|R=f|R; Pr(accept)=(1−p)^N; danger=play cost×(1−r)^N

R은 참 모델 f와 초기 분포 μ₀, 검사 정책 ρ, 에피소드 길이 h가 정하는 도달 가능한 질의 집합이다. E(f)는 R에서 참 모델과 같은 후보 모델의 집합이다. p는 한 검사 rollout이 허용오차를 넘어 다른 영역을 질의할 확률, N은 rollout 수다. r은 한 rollout에서 모드에 닿을 확률이다. danger 식은 논문에서 제시한 위험 법칙이다.

한계와 주의할 점

• 주 실험은 2D 고리와 ShellField-n 합성 환경에 집중한다. 고리의 no-jump 결과는 두께 w=1.5가 최대 이동량 Δ=1.0보다 크고, 실제·상상 롤아웃이 같은 적분기와 행동 제한을 쓴다는 조건에 의존한다. 실제 시스템에서의 end-to-end 검증은 제시되지 않았다.
• 주 LLM 셀은 20 seeds이며 GPT-5.x mini와 large는 seed block을 공유한다. Qwen과 Claude 검증은 spot check이므로 세 모델군을 같은 규모로 비교한 결과는 아니다.
• persistent-homology 요약은 실제 β1이 0인 열린 고리에서도 γ≤1.2에서 β̂1=1을 보고했다. n=6의 내부 자료는 β5 계산이 아니라 2-plane projection 진단이다.
• 요약 문구를 바꾸는 paired intervention은 discordant split 9:2였지만 exact two-sided p=0.065였다. 따라서 요약이 구조를 바꾼다는 인과 주장은 확정되지 않았다.
• 내부 진입률의 단조성은 funnel defect를 제외한 Corollary 2 형태로만 증명된다. 이 결함의 사전 상한은 미해결이며, behavioral audit와 고차원 실험에도 상당한 계산이 필요하다.
• 검사 표본이 모드를 놓치면 누락된 규칙이 승인될 수 있다. 기본 조건의 mode-absent probability는 0.28이며, 세 모델군에서 gate를 통과한 blind artifact의 play cost는 약 1.12였다.
• 안쪽에서 증거를 모아 올바른 구조를 제안해도, 경계 위치를 gate 정밀도 ε=10⁻⁹에 맞추지 못할 수 있다. 내부 시작 D 셀에서는 대다수 모델이 gate를 통과하지 못했다.
• 증거 요약이 좁은 틈을 닫힌 고리로 오인하면 복구 과정도 그 요약을 따라갈 수 있다. γ=1.8에서 거짓 고리 비율은 표본량을 늘렸을 때 1/5에서 3/5로 증가했지만, 이는 5개 paired seeds의 방향성 결과다.
• 점 울타리는 1차원 경계를 충분히 막지 못해 계획기가 열린 구간으로 우회할 수 있다. 허구 모드에서는 울타리가 계속 작동해도 손해를 줄이지 못했다.

시스템 적용 아이디어

논문의 기법을 비슷한 구조를 가진 시스템에 옮길 때의 적용 지점이다.

검사 범위와 계획기 도달 범위를 별도로 확인

후보 모델과 참 모델의 차이가 검사 정책의 도달 범위 밖에 있는지 기록하고, 정상 계획기의 예상 경로가 그 차이와 겹치는지 별도로 확인한다. 필요하면 숨은 통로를 탐색하는 질의 정책을 추가한다.

적용 지점 — 코드 월드 모델 검사와 계획기 경로 감사

기대 효과 — 계획기가 통과할 수 있는 γ=0.15 틈에서는 play cost가 0.001이었고, 숨은 틈에서는 1.116이었다.

경계에 맞춘 울타리를 에피소드 간 유지

실측과 모델 예측이 다른 지점을 기록해 경계 방향의 선분으로 연결한다. 울타리 범위가 경계를 덮는지 확인하고, 다음 에피소드에서도 유지한다.

적용 지점 — 계획기의 재계획 및 배포 중 오류 감시

기대 효과 — 논문의 지속 nerve fence는 play cost를 0.999에서 0.058로 줄였고, 두 번째 에피소드부터 참 계획기와 같은 수익을 보였다.

허구 장애물에 freedom patch 적용

모델은 멈췄다고 예측했지만 실제로 움직인 지점을 기록한다. 상상 속 계획이 그 주변에서 멈추면 알려진 적분기로 대체해 자유 이동을 반영한다.

적용 지점 — 가상 계획의 허구 장애물 수정

기대 효과 — 내부 시작 filled-disc 조건의 play cost가 1.769에서 0.029로 낮아졌다.

접촉 지점과 자유 이동 경로를 함께 요약

접촉 자료 X와 인증된 자유 이동 경로 Y를 함께 사용해 상대 호몰로지를 계산한다. Y는 점들의 모음 대신 연속 경로로 표현하고, 한쪽 자료만으로 판단할 수 없는 경우에는 구조를 확정하지 않는다.

적용 지점 — 모델 복구 과정의 구조 요약

기대 효과 — 논문 prototype은 열린 고리 조건에서 plain Rips의 9/20보다 높은 20/20 정확도를 보였지만, 닫힌 고리에서는 참 고리 2/5를 놓쳤다.

고차원 계획기의 방향 탐색 능력 점검

각 좌표축의 양·음 방향 후보를 계획기에 넣고, 참 모델에서 목표에 접근할 수 있는지 검사한다. 이를 통해 계획기 후보 집합의 약점이 모델 위험을 가리는 상황을 찾는다.

적용 지점 — 고차원 벡터 행동 계획기의 후보 집합

기대 효과 — 논문에서는 축 방향 후보를 넣었을 때 play cost가 1.04, 접촉률이 1.0으로 나타났다.

단계별 도입 로드맵

원문 PDF: 2026-09-01-an-enclosed-mode-is-a-gauge-choice-topology-relative-to-reach-in-certifi.pdf