Petri 3.0 architecture showing auditor/target model separation and Bloom integration

Anthropic, 얼라인먼트 테스트 도구 Petri를 Meridian Labs에 기증 — 버전 3.0 핵심 정리

핵심 요약 Anthropic의 오픈소스 얼라인먼트 테스트 도구 Petri가 Meridian Labs로 이전되며 새로운 주인에게 건너갔다 버전 3.0의 핵심 변화 3가지: 적응성(분리 구조) · 현실성(Dish 애드온) · 심층성(Bloom 연동) 영국 AI 보안연구소(AISI)가 이미 saboteur 평가 주요 수단으로 활용 중 MCP/Linux Foundation 기증과 같은 구조 — 중립적 평가 생태계 구축 의도 Petri 설치·사용 문서: meridianlabs-ai.github.io/inspect_petri/ Petri란 무엇인가 — Claude를 시험하는 도구 Anthropic은 최근 자사의 핵심 AI 정렬 테스트 도구인 Petri를 Meridian Labs라는 비영리 기관에 기증했다. Petri는 Anthropic의 Fellows 프로그램에서 탄생하며, Claude 시리즈의 신뢰성을 검증하기 위해 만들어진 도구다. 이미 Claude Sonnet 4.5부터 모든 Claude 모델에 공식 적용되어 있다. ...

2026년 5월 15일 · 4 분 · 763 단어 · TechLLM