https://techllm.github.io/tags/%EB%B8%94%EB%9E%99%EB%B0%95%EC%8A%A4-%EB%A0%88%EB%93%9C%ED%8C%80/Recent content in 블랙박스 레드팀 on TechLLMHugokoTue, 10 Nov 2026 07:33:15 +0900https://techllm.github.io/posts/redevoagent-automatic-red-teaming-agent-with-experience-driven-skill-e/Tue, 10 Nov 2026 07:33:15 +0900https://techllm.github.io/posts/redevoagent-automatic-red-teaming-agent-with-experience-driven-skill-e/RedEvoAgent는 여러 jailbreak 도구를 조합해 실제 실행 환경의 블랙박스 AI 에이전트를 시험하는 자동 레드팀 방법이다. 도구별 효과 측정과 공격 기록을 바탕으로 간결하고 읽기 쉬운 공격 지침을 만들고, 별도 검증 점수가 기존 지침보다 높을 때만 채택한다. 논문은 여러 벤치마크·모델·실행 환경에서 고정 공격 및 기존 자동 레드팀 방법보다 대체로 높은 공격 성능과 적은 도구 호출을 보고한다. 다만 AgentHarm에서 검증 점수 상승이 시험 성능 하락으로 이어진 사례가 있어 일반화에 주의가 필요하다.