병원 AI가 환자 기록을 외부 클라우드로 전송한다면? 의사는 이 시스템을 쓸 수 없다. 개인정보 보호법이 막고, 윤리 위원회가 막고, 환자가 막는다.
OncoAgent는 이 문제를 정면으로 해결한다. 모든 추론과 학습을 병원 내 서버에서 끝낸다. 클라우드 API 없이. 환자 데이터 유출 없이. 그러면서도 70개 이상의 국제 암 치료 가이드라인을 실시간으로 참조한다.
2026년 5월 HuggingFace에 공개된 이 오픈소스 시스템은 AMD Instinct MI300X에서 파인튜닝을 56배 가속하고, AMD ROCm 스택 위에서 전체 시스템을 실행한다.
핵심 요약
- 듀얼 티어 LLM: 단순 쿼리는 9B 모델(속도), 복잡 케이스는 27B 모델(심층 추론)로 자동 라우팅
- 70+ 가이드라인 RAG: NCCN·ESMO 가이드라인 기반 4단계 Corrective RAG, 100% 문서 관련성 평가 성공률
- Zero-PHI 정책: 환자 식별 정보가 시스템 외부로 나가지 않는 완전 온프레미스 구조
- AMD MI300X 가속: 시퀀스 패킹으로 26만 6천 건 전체 데이터셋 파인튜닝을 50분에 완료 (API 대비 56배)
- 3층 안전 검증: 포맷 → 규칙 기반 안전 → LLM 함의 검증으로 할루시네이션 차단
왜 종양학에서 AI가 어려운가
암 치료는 의료 분야에서 가장 정보 밀도가 높고 인지 부담이 큰 영역이다. NCCN(미국 종합암네트워크)과 ESMO(유럽종양학회)의 가이드라인은 빠르게 업데이트되고, 변종이 많고, 무한히 복잡한 환자 상태와 교차한다.
기존 임상 의사결정 지원 시스템의 세 가지 실패 패턴:
- 할루시네이션: 가이드라인 근거 없는 추천을 생성
- 클라우드 의존: 병원 환경에서 온프레미스 배포 불가
- 단일 LLM 한계: 복합 다중 질환 케이스에서 컨텍스트 포화
OncoAgent는 이 세 가지를 모두 아키텍처 설계로 해결한다.
시스템 아키텍처: 8노드 LangGraph 토폴로지
OncoAgent는 LangGraph로 구현된 상태 기반 방향 그래프다. 시스템 상태는 11개 논리 섹션, 약 30개의 타입 키를 가진 불변(immutable) AgentState TypedDict로 표현된다. 각 노드는 업스트림 데이터를 수정하지 않고 특정 키에만 추가(append)해서 완전한 감사 추적을 보존한다.
Router → Ingestion → Corrective RAG → Specialist ↔ Critic → HITL Gate → Formatter → END
↓
Fallback → END
- 조건부 엣지 5개
- Reflexion 재시도 루프 최대 2회
- 고복잡도·저신뢰도 출력에 의무적 HITL 인터럽트
복잡도 라우터: 티어 결정 수식
쿼리가 들어오면 가중치 합산 모델이 케이스 복잡도를 수치화한다:
| 요인 | 조건 | 가중치 |
|---|---|---|
| 암종 | 희귀암 | +0.40 |
| 암종 | 원발 불명 | +0.30 |
| 병기 | 4기 | +0.25 |
| 병기 | 3기 | +0.15 |
| 돌연변이 | 2개 이상 | +0.30 |
| 돌연변이 | 1개 | +0.15 |
| 이전 치료 | 키워드 매칭 | +0.10 |
결정 기준: S ≥ 0.5 → Tier 2 (Qwen 3.6-27B 심층 추론) / S < 0.5 → Tier 1 (Qwen 3.5-9B 속도 트리아지)
검증 예시: KRAS + BRCA2 돌연변이를 가진 4기 췌장암 → S = 0.80 → Tier 2 정상 라우팅.
임상의는 UI에서 수동으로 티어를 오버라이드할 수 있다.
Corrective RAG: 4단계 문서 관련성 파이프라인
일반 RAG의 최대 문제는 제목은 관련 있어 보이지만 실제로는 무관한 문서가 검색되는 것이다. 이 할루시네이션 원인을 제거하기 위해 OncoAgent는 4단계 파이프라인을 적용한다.
| 단계 | 컴포넌트 | 기능 | 설정 |
|---|---|---|---|
| 1. 리콜 | PubMedBERT 바이인코더 | 광범위 후보 검색 | top-15 |
| 2. 거리 게이트 | 코사인 거리 필터 | 반할루시네이션 최저선 | threshold = 0.10 |
| 3. 재랭킹 | 크로스인코더 (MS-MARCO MiniLM) | 쿼리-문서 관련성 정밀 평가 | top-5 |
| 4. HyDE | 가상 문서 임베딩 | 의학 동의어 불일치 해소 | — |
HyDE(Hypothetical Document Embeddings): 자연어 쿼리를 가이드라인 임베딩 공간으로 투영해 “tyrosine kinase inhibitor"와 “TKI"처럼 표기는 다르지만 의미가 같은 의학 용어 미스매치를 해결한다.
지식 베이스는 138개 NCCN 페이지를 60초 이내 처리한 웹 스크래퍼로 수집한 77개 가이드라인 PDF를 PyMuPDF로 파싱해 구축했다. 임베딩 모델은 일반용(all-MiniLM-L6-v2)을 버리고 PubMed + MS-MARCO 파인튜닝 모델(pritamdeka/S-PubMedBert-MS-MARCO)을 선택했다. 벡터 스토어는 클라우드 없는 로컬 ChromaDB.
그라더 모델을 Qwen 3.5에서 Qwen 2.5 Instruct로 교체하자 성공률이 0% → 100%로 뛰었다.
3층 안전 검증: Critic 노드
Specialist 노드가 출력을 생성하면, Critic 노드가 HITL 게이트 전에 3단계 검증을 실행한다.
- 포맷 검증: OncoCoT 출력 스키마 구조 준수 여부
- 안전 검증: 가이드라인 인용 없는 절대 용량 지시, 약물 상호작용 누락 등 금지 패턴 탐지 (결정론적 규칙 기반)
- LLM 함의 검증: Specialist의 추천이 검색된 RAG 컨텍스트로 완전히 뒷받침되는지 확인
실패 시, Critic의 구체적 피드백이 Specialist 컨텍스트에 주입되어 재시도(최대 2회). 핵심 설계 결정: Critic은 결정론적 코드로 실행되고 LLM이 제어하지 않는다. 적대적 프롬프팅으로 안전 검증을 우회할 수 없다.
AMD MI300X: 56배 파인튜닝 가속
OncoAgent의 파인튜닝 스택:
- 데이터: 실제 + 합성 생성 종양학 케이스 266,854건
- 방법: QLoRA (Unsloth 프레임워크)
- 하드웨어: AMD Instinct MI300X (192GB HBM3)
- 결과: 시퀀스 패킹으로 전체 데이터셋 파인튜닝 약 50분 완료
- 가속비: API 기반 생성 대비 56배 처리량 향상
MI300X의 192GB HBM3 메모리가 시퀀스 패킹을 가능하게 한다. 짧은 시퀀스들을 하나의 긴 시퀀스로 묶어 GPU 활용률을 최대화하는 기법으로, 파인튜닝 시간을 극적으로 단축했다.
실무자가 볼 핵심 포인트
온프레미스 배포 가능성이 의료 AI의 게임체인저다 — 클라우드 API 없이 병원 내에서 전체 스택을 실행할 수 있다는 것이 핵심 차별점이다. 국내 의료 정보보호 규정 환경에서 특히 중요하다.
복잡도 기반 라우팅은 비용과 품질을 동시에 잡는다 — 단순 케이스에 27B 모델을 쓰지 않고, 복잡한 케이스에만 집중 투입한다. 추론 비용과 처리 시간을 동시에 최적화하는 실용적 패턴이다.
Critic을 LLM이 아닌 코드로 구현한 것이 중요하다 — 안전 검증 자체를 LLM에게 맡기면 프롬프트 인젝션으로 우회될 수 있다. 결정론적 코드로 안전 레이어를 분리하는 설계를 의료 외 고위험 도메인에서도 참고할 만하다.
의학 전용 임베딩 모델 선택이 RAG 품질을 좌우한다 — 일반 임베딩 모델은 의학 전문 용어에서 성능이 급락한다. 도메인 특화 임베딩(PubMedBERT 계열)으로 교체하는 것이 특수 도메인 RAG 구축의 첫 번째 체크포인트다.
오픈소스 전체 공개 — 모델, 코드, 파이프라인이 모두 공개돼 있다. 소규모 병원이나 연구 기관도 이 스택 위에 특화 시스템을 구축할 수 있다.
자주 묻는 질문 (FAQ)
Q: OncoAgent는 실제 임상 진단 도구인가요? OncoAgent는 임상 의사결정 지원(Clinical Decision Support) 시스템입니다. 최종 진단과 치료 결정은 반드시 임상의가 내립니다. 시스템은 HITL(Human-in-the-Loop) 게이트를 통해 고복잡도 케이스에서 의무적으로 임상의 검토를 요구합니다.
Q: Zero-PHI 정책이 무엇인가요? PHI(Protected Health Information)는 환자를 식별할 수 있는 모든 의료 정보입니다. OncoAgent는 이 정보를 시스템 외부로 내보내지 않습니다. 모든 추론, 임베딩, 파인튜닝이 병원 내 서버에서 실행되어 클라우드 API 전송 자체가 발생하지 않습니다.
Q: 어떤 종류의 암 케이스를 처리할 수 있나요? 지식 베이스는 NCCN·ESMO 가이드라인 기반으로 HCC(간세포암), NSCLC(비소세포폐암), 유방암, 대장암, 신경내분비종양 등 주요 암종 70개 이상을 포함합니다. 복잡도 라우터가 희귀암 및 원발 불명 케이스를 27B 심층 추론 모델로 자동 배정합니다.
Q: AMD GPU가 필수인가요? 파인튜닝 가속은 AMD Instinct MI300X + ROCm 스택을 활용했지만, 오픈소스 프레임워크 기반이라 다른 하드웨어 환경에도 이식 가능합니다. 단, MI300X의 192GB HBM3 메모리가 제공하는 시퀀스 패킹 효율은 다른 하드웨어에서 동일하게 재현되지 않을 수 있습니다.
원문 출처: OncoAgent Research Group, “OncoAgent: A Dual-Tier Multi-Agent Framework for Privacy-Preserving Oncology Clinical Decision Support”, HuggingFace Blog, 2026년 5월 9일 — https://huggingface.co/blog/lablab-ai-amd-developer-hackathon/oncoagent-official-paper