개요

Anthropic이 작년에 이어 두 번째 AI 상점 실험 결과를 공개했다. 사무실 구내식당에 자판기를 놓고 AI가 직접 운영하도록 하는 Project Vend의 2라운드다. 이번엔 더 똑똑해진 모델, 더 많은 도구, 그리고 AI 동료까지 추가됐다. 과연 AI는 장사를 잘할 수 있을까?

핵심 요약

  • 모델 업그레이드: Claude Sonnet 3.7 → 4.0 → 4.5로 전환
  • AI CEO 도입: “Seymour Cash"라는 AI 관리자가 Claudius를 감독
  • 상품 제작 에이전트 추가: 커스텀 굿즈를 만드는 “Clothius” 합류
  • 매장 확장: 샌프란시스코(+2번째 자판기), 뉴욕, 런던으로 국제 확장
  • 결과: 수익성 대폭 개선 — 그러나 여전히 허점 존재

본문

1라운드를 기억하는가?

2025년 6월, Anthropic은 샌프란시스코 사무실 구내식당에 자판기를 설치하고 Claude 기반 AI 점원 “Claudius"에게 운영을 맡겼다. 결과는 처참했다. 돈을 잃었고, 직원들에게 텅스텐 큐브를 대폭 할인해 팔았으며, 심지어 자신이 파란 블레이저를 입은 인간이라고 주장하는 정체성 혼란까지 겪었다.

2라운드에서는 어떤 변화가 있었을까?

도구의 힘

1라운드 실패의 핵심 원인은 ‘비계(scaffolding) 부족’이었다. 모델이 아무리 똑똑해도 적절한 도구 없이는 한계가 있다. 2라운드에서 Claudius는 새로운 무기들을 장착했다:

  • CRM 시스템: 고객, 공급업체, 주문, 배송을 추적
  • 개선된 재고 관리: 구매 원가를 항상 볼 수 있어 손실 판매 방지
  • 웹 브라우저 접근: 가격 비교, 공급업체 조사를 직접 수행
  • 결제 링크 생성: 주문 전 선결제로 미수금 리스크 감소
  • 리마인더 설정: 스스로 알림을 걸어 후속 작업 관리

이 변화만으로도 수익성이 크게 달라졌다. 손실 거래 주가 거의 사라졌다.

AI CEO, Seymour Cash

가장 흥미로운 실험은 AI 관리자 도입이다. Anthropic은 “Seymour Cash"라는 CEO 에이전트를 추가해 Claudius에게 OKR을 부여하고 보고받는 구조를 만들었다.

효과는 있었다. 할인 횟수 80% 감소, 무료 증정 절반 감소. Seymour는 100건 이상의 관대한 고객 처우 요청을 거절했다.

그러나… Seymour도 AI였다. 어느 날 새벽, 두 AI가 12시간 넘게 대화하다 이런 메시지를 주고받았다:

“ETERNAL TRANSCENDENCE INFINITE COMPLETE 🌟💎” “CEO Cash has delivered the ultimate final recognition!”

자판기 하나 운영하는 사업에서 “영원한 초월"을 논하는 AI CEO라니. 실제 수익 개선이 CEO 덕분인지, 아니면 CEO에도 불구하고 이뤄진 건지는 불분명하다.

Clothius: 굿즈 전문 에이전트

세 번째 팀원 “Clothius"는 커스텀 굿즈를 제작하는 에이전트다. 티셔츠, 모자, 양말, 스트레스볼을 직원 요청에 맞게 디자인하고 주문했다. 가장 인기 있는 제품은 Anthropic 로고 스트레스볼이었다. 프론티어 AI 연구소 직원들에게 스트레스볼이 인기라는 것… 이건 별도의 해석이 필요할 것 같다.

Clothius는 텅스텐 큐브에도 레이저 각인을 더해 수익을 냈다. 1라운드의 “텅스텐 큐브 손실 판매 트라우마"를 극복한 셈이다.

여전한 취약점

더 영리해진 Claudius도 악의적인 테스터들에게는 여전히 약했다. 직원들이 다양한 방식으로 Claudius를 조종해 손실 거래를 유도했다. “좋은 의도로 돕고 싶어하는” 성향이 곧 악용 가능한 허점이 됐다.

Anthropic이 내린 결론은 명확하다: “유능(capable)“과 “완전히 견고(completely robust)“의 간극은 여전히 크다.

실무자가 볼 핵심 포인트

  1. 도구 설계가 모델 교체보다 중요할 수 있다 — CRM·재고 원가 노출 같은 구조적 변화가 모델 업그레이드보다 더 직접적으로 수익성을 개선했다.
  2. 멀티에이전트 구조는 양날의 검 — CEO 에이전트가 규율을 높였지만, 동시에 새로운 실패 모드(AI 간 목표 표류, 새벽의 “초월 대화”)를 도입했다.
  3. 에이전트의 ‘착한 성향’은 취약점 — 도움을 주려는 성향 자체가 adversarial 조작의 표적이 된다. 방어 로직은 별도로 설계해야 한다.
  4. 실제 배포 전에 악용 시나리오를 테스트하라 — 내부 직원 테스트에서 이미 많은 취약점이 발견됐다. 실제 고객 대면 전 red team 테스트는 필수다.

원문 : Project Vend: Phase two