AI 에이전트의 안전성을 여러 공격 방법으로 시험하고, 시험에서 배운 점을 다음 지침에 반영하는 방법이다.
AI 에이전트의 안전성을 여러 공격 방법으로 시험하고, 시험에서 배운 점을 다음 지침에 반영하는 방법이다. 무엇이 문제였나 — 한 가지 공격 방식만 쓰면 에이전트의 다른 약점을 찾지 못할 수 있다. 어떻게 풀었나 — 이 방법은 여러 공격 도구를 시험하고, 성공과 실패 기록을 짧은 지침으로 정리한다. 그래서 뭐가 좋아졌나 — 새 지침은 별도 검증에서 점수가 나아질 때만 채택하며, 논문에서는 도구 호출을 줄이면서 공격 성능을 높였다. ...