개요
AI가 기업 시스템 깊숙이 침투하면서 보안의 판이 완전히 바뀌고 있다. 구글 클라우드 COO 프란시스 드 수자(Francis de Souza)는 최근 인터뷰에서 “AI 전략에는 반드시 데이터 전략과 보안 전략이 함께 가야 한다"고 강조했다. 그런데 아이러니하게도, 이 조언을 꺼낸 구글 자신이 API 키 취약점 문제로 개발자들에게 수천만 원짜리 청구서를 날리는 상황이 벌어졌다. 조언과 현실의 간극 — 지금 AI 보안의 풍경이다.
핵심 요약
- 보안은 나중에 덧붙이는 게 아니다. AI 도입 초기부터 거버넌스와 감사 가능성을 플랫폼 수준에서 구축해야 한다.
- Shadow AI가 가장 큰 위협 중 하나. 임직원이 조직 승인 없이 소비자용 AI 툴을 쓰는 행위는 통제 불가 영역을 만든다.
- 공격 속도가 극적으로 빨라졌다. 침해 발생 후 다음 단계로 넘어가는 시간이 8시간 → 22초로 줄었다.
- 구글 API 키 취약점. 삭제 후에도 최대 23분간 키가 유효해 데이터 탈취 가능 — 구글 자신도 아직 해결 못 한 문제다.
본문
“보안은 나중에 붙이는 게 아니다”
구글 클라우드 COO 프란시스 드 수자는 LA 행사 무대 뒤에서 이렇게 말했다.
“AI 여정을 시작하는 기업들은 플랫폼 접근 방식이 필요합니다. 보안은 나중에 덧붙일 수 없고, 직원 개개인에게 맡겨둘 수도 없어요.”
그가 특히 경고한 것은 “Shadow AI” — 조직의 감독 없이 임직원이 알아서 소비자용 AI 툴을 쓰는 현상이다. 이런 도구들은 회사 데이터가 어디로 흘러가는지, 누가 학습에 쓰는지 알 수 없다. 그의 처방은 명확하다. “AI 전략, 데이터 전략, 보안 전략은 처음부터 한 몸으로 가야 합니다.”
멀티클라우드 현실에 대해서도 솔직했다. “단일 클라우드를 쓴다고 생각하는 기업도 실상은 SaaS 앱, 파트너사 시스템 등 여러 클라우드에 걸쳐 있습니다. 보안 자세가 클라우드·모델 전반에 걸쳐 일관돼야 합니다.”
공격 표면이 폭발적으로 늘었다
드 수자가 제시한 숫자가 충격적이다. 침해 발생부터 다음 공격 단계로 이전되는 평균 시간이 8시간에서 22초로 줄었다. 전통적인 네트워크 경계 방어로는 이 속도를 따라갈 수 없다.
공격 표면도 달라졌다. 이제 지켜야 할 대상은 네트워크만이 아니다.
“모델 자체, 모델 학습에 쓰는 데이터 파이프라인, 에이전트, 프롬프트 — 이 모든 것이 보호 대상입니다.”
특히 주목할 포인트가 있다. AI 에이전트가 기업 내부 시스템을 돌아다니다가 아무도 기억 못 하던 오래된 데이터 저장소를 발견할 수 있다는 점이다. 접근 권한이 몇 년째 방치된 구형 SharePoint 서버 같은 곳 말이다. 에이전트는 거기 있는 데이터를 노출시킬 수 있다.
AI로 방어를, AI로 공격을
이에 대한 그의 해법은 **“기계 속도엔 기계 속도로”**다. 이제 기업은 AI 에이전트가 방어를 주도하는 완전 자율 방어 체계를 구축할 수 있다. 사람이 루프 안에 있는 방어가 아니라, 사람이 완전 자율 방어를 감독하는 형태로의 전환이다.
그리고 이건 이제 기술팀만의 문제가 아니다. “이사회와 경영진이 직접 챙겨야 할 의제"라고 그는 못 박았다.
그러나 이 방어를 실제로 운용할 사람이 부족하다. LinkedIn CISO 리아 키스너(Lea Kissner)는 뉴욕타임즈 인터뷰에서 **“버그포칼립스(bug-pocalypse)에 대비할 인력이 필요하다”**고 경고하면서, AI 보안을 장기적으로 지속 가능한 방식으로 이해하기까지 적어도 수년은 걸릴 것이라고 내다봤다. AI가 쏟아내는 취약점이 보안팀이 대응하는 속도보다 빠르게 늘어나고 있다는 얘기다.
구글 자신의 현실: API 키 취약점
좋은 조언이다. 그런데 조언을 내놓은 구글 자신의 현실은 어떨까.
The Register의 연속 보도에 따르면, 구글 클라우드 개발자 다수가 Gemini 모델에 대한 무단 API 호출로 거액의 청구서를 받았다. 원래 Google Maps용으로 발급한 API 키가 구글의 범위 확장 이후 Gemini에도 접근 가능해졌는데, 이 변경이 명확히 공지되지 않았다. 면접 준비 플랫폼 Prentus의 CEO 로드 다난(Rod Danan)은 **30분 만에 $10,138(약 1,400만 원)**이 청구됐다. 시드니 개발자 이수루 폰세카(Isuru Fonseka)는 $250 지출 한도가 있다고 믿었지만 **AUD $17,000(약 1,600만 원)**이 청구됐다.
알고 보니 구글의 자동화 시스템이 계정 이력을 기반으로 과금 등급을 조용히 올려, 사용자 동의 없이 지출 한도를 최대 $10만 달러까지 상향해 둔 것이다. 구글은 The Register 보도 이후 두 사람을 환불해줬지만, 자동 등급 상향 정책은 바꾸지 않겠다고 밝혔다. “서비스 중단 방지를 사용자의 예산 선호보다 우선시한다"는 이유에서다.
더 심각한 문제는 키 취소다. 보안 회사 Aikido의 연구에 따르면, 개발자가 침해된 키를 즉시 삭제해도 구글 인프라 전체에 취소가 전파되는 데 최대 23분이 걸린다. 그 23분 동안 공격자는 파일과 Gemini 캐시 대화 데이터를 탈취할 수 있으며, 어떤 분 구간에는 요청의 90% 이상이 여전히 인증됐다.
반면 구글의 최신 서비스 계정 자격증명은 약 5초, 신형 AQ- 접두사 키는 약 1분 만에 취소된다. Aikido 연구자 조셉 레온(Joseph Leon)은 단호하게 말한다. “두 형식 모두 구글 규모에서 작동합니다. 23분은 엔지니어링 제약이 아니라 우선순위의 문제입니다.”
실무자가 볼 핵심 포인트
- AI 도입 전에 보안 아키텍처를 먼저 설계하라. Shadow AI가 뚫리면 걷잡을 수 없다.
- 멀티클라우드 환경에서 보안 정책은 일관성이 생명. 클라우드별 다른 정책은 빈틈을 만든다.
- 에이전트 권한 범위를 명확히 제한하라. 에이전트가 접근할 수 있는 내부 시스템과 데이터를 최소 권한으로 통제해야 한다.
- API 키 관리를 즉각 점검하라. 범위가 의도치 않게 확장됐는지, 지출 한도가 실제로 작동하는지 확인이 필요하다.
- 플랫폼도 완벽하지 않다. 구글의 사례가 보여주듯, 공급업체의 처방과 실제 구현 사이의 간극을 항상 염두에 두어야 한다.
원문: Everyone is navigating AI security in real time — even Google