개요
같은 주에 발표된 두 건이 묘하게 맞물립니다. 6월 12일 구글은 미국 남부지방법원(SDNY)에 제미나이를 악용한 사이버 범죄망 ‘Outsider Enterprise’를 상대로 소송을 걸었다고 밝혔습니다. FBI, 그리고 통신 3사인 AT&T, T-모바일, 버라이즌이 같은 편으로 이름을 올렸습니다. 사상 첫 합동 소송입니다. 같은 시점 OpenAI는 6월 위협 리포트에서 중국발로 추정되는 두 개의 ChatGPT 여론조작 클러스터를 적발해 차단했다고 발표했습니다. 한쪽은 AI 사기, 한쪽은 AI 여론조작. 무기는 다르지만 표적은 같은 미국 사회였습니다.
핵심 요약
- 첫 합동 소송 구도. 구글이 단독으로 사이버 범죄를 고소한 적은 있지만, FBI와 통신 3사를 모두 끌고 들어간 건 이번이 처음입니다.
- 제미나이로 사기 키트 131종 양산. 가짜 사이트 9,000개, 위장 URL 100만 개 이상, 단 2주 동안 안드로이드 사용자에게 2.5백만 건의 메시지가 뿌려졌습니다.
- 사칭 대상이 광범위. 구글, 유튜브, 미국 우정청(USPS), 뉴욕 통행료 시스템 E-ZPass까지. 일상 생활에서 흔히 보는 알림으로 위장했습니다.
- OpenAI는 두 개의 중국 클러스터 차단. ‘데이터센터 밴드왜건’은 전기요금 여론 조작, ‘Tech and Tariffs’는 트럼프 관세를 비꼬되 시진핑·중국은 비껴가는 만화를 양산했습니다.
- 확산력은 미미. OpenAI 자체 평가로 두 캠페인 모두 Breakout Scale 1단계, 즉 자기들끼리만 떠든 수준입니다.
- 그러나 패턴이 무섭다. FBI는 2025년 한 해 AI 관련 사이버 범죄 손실만 8억 9,300만 달러로 잡았습니다. 전체 손실 210억 달러의 4%지만, 비중이 가파르게 늘고 있습니다.
구글이 첫 합동 소송을 건 ‘Outsider Enterprise’는 무엇인가
구글이 지목한 ‘Outsider Enterprise’는 텔레그램을 본부 삼아 움직인 사기 조직입니다. 구글 발표를 그대로 옮기면 이렇습니다. 이들은 제미나이를 동원해 131개의 소프트웨어 키트를 찍어냈고, 그 키트가 다시 수천 개의 가짜 사이트를 자동으로 양산했습니다. 5월 단 2주 동안 안드로이드 사용자에게 250만 건의 메시지가 발송됐고, 그 메시지는 9,000개 사기 사이트와 100만 개가 넘는 위장 URL로 연결됐습니다.
사칭한 브랜드를 보면 표적의 의도가 또렷합니다. 구글과 유튜브는 계정 탈취용, USPS는 배송 알림 가장, E-ZPass는 통행료 미납 안내를 흉내냈습니다. 받는 사람 입장에서는 평소에 진짜로 받던 알림과 구분이 어렵습니다. 피해는 수백만 달러 단위라고 구글이 직접 밝혔습니다.
이번 소송의 진짜 의미는 액수보다 구조에 있습니다. FBI와 AT&T, T-모바일, 버라이즌이 공동 원고처럼 이름을 올린 건 처음입니다. 구글은 법원에 단순 손해배상이 아니라 도메인 압수와 계정 동결을 가능하게 하는 가처분(restraining order)을 요구했습니다. 통신사가 SMS 인프라 단에서 차단을 도와야 실효성이 나옵니다. FBI 부국장 브렛 레더먼은 “범죄자들이 점점 더 AI를 써서 사기를 정교하게 만들고 있다"고 말했습니다.
OpenAI가 차단한 두 개의 중국 클러스터
OpenAI 6월 위협 리포트는 같은 주에 또 다른 결을 보여 줍니다. 차단된 두 클러스터의 색깔이 다릅니다.
Data Center Bandwagon. 영어로 댓글을 달고, 만화 컷을 그리고, 이미지를 가공해서 “AI 데이터센터가 늘어나면 평범한 가정의 전기요금이 오른다"는 메시지를 퍼뜨렸습니다. OpenAI는 이 클러스터를 중국 지방정부를 위해 일하는 민간 기술회사로 추적했다고 밝혔습니다. 단순 여론전을 넘어, 활동가 리잉(Li Ying)을 표적으로 한 인신공격성 게시물과 미국 거주 중국계 인물을 사칭한 위장 계정까지 운영했습니다.
Tech and Tariffs. 트럼프 행정부의 관세 정책을 비꼬는 카툰을 대량 생산했는데, 흥미로운 점이 있습니다. 이들이 모델에 보낸 프롬프트에는 “중국과 시진핑 주석은 그림에 넣지 마라"는 지시가 명시돼 있었습니다. 같은 클러스터는 “ChatGPT 사용자 데이터가 유출됐다"는 가짜 정보 캠페인도 동시에 굴렸습니다. 일부 사용자가 자신을 ‘워터 아미(水军, 여론 동원 부대)‘라고 직접 칭하면서 정체가 더 또렷해졌습니다.
OpenAI 수석 조사관 벤 님모(Ben Nimmo)는 두 캠페인을 “이미 존재하는 미국 내부 논쟁에 올라타서 중국 쪽으로 끌고 가려는 시도"로 정리했습니다. 다만 효과는 크지 않았습니다. OpenAI 자체 등급인 Breakout Scale에서 두 캠페인 모두 카테고리 1, 즉 외부 플랫폼으로 거의 퍼지지 않고 자기들끼리만 떠든 수준입니다.
두 사건을 한 줄로 묶으면
구글 쪽은 ‘돈을 노리는 AI 사기’, OpenAI 쪽은 ‘여론을 노리는 AI 조작’입니다. 같은 주에 발표된 게 우연이 아닙니다. 두 회사가 공통적으로 말하는 메시지는 단순합니다. AI 모델은 이제 단발성 도구가 아니라, 사기 키트나 캠페인 인프라의 일부로 박혀 들어가고 있다는 겁니다.
특히 구글이 통신사와 손잡은 방식은 의미가 큽니다. 모델 제공자, 법 집행기관, 인프라 사업자가 같은 소송장에 이름을 올린 그림은 이전에 없었습니다. 가짜 사이트는 빠르게 새로 만들 수 있지만, SMS 게이트웨이와 도메인 등록까지 한 번에 차단당하면 비용이 급격히 오릅니다. 공격자 단가를 올리는 것, 결국 보안 싸움은 그 한 줄입니다.
OpenAI가 카테고리 1로 분류한 점도 곱씹어 볼 만합니다. “잘 안 먹혔다"는 평가는 안심하라는 뜻이 아니라, 모델 안에서 캠페인 단위로 식별·차단할 수 있다는 자신감의 표현입니다. 사용자가 직접 ‘워터 아미’라고 자기소개한 흔적까지 잡힐 정도면, 적어도 이번 라운드에서는 탐지 쪽이 한 발 앞서 있다고 봐도 됩니다.
실무자가 볼 핵심 포인트
- AI 안전팀이라면: 모델 출력만 보지 말고, 동일 프롬프트 패턴이 여러 계정에서 반복되는지를 본격적인 시그널로 잡아야 합니다. ‘Tech and Tariffs’가 걸린 결정적 단서는 “중국과 시진핑은 빼라"는 공통 프롬프트였습니다.
- 보안팀이라면: 피싱 URL 차단을 도메인 단위가 아니라 ‘발신 채널(SMS/IM) + 도메인 + 발급 키트’의 묶음 단위로 관리해야 합니다. 2주에 9,000개가 나오는 시대입니다.
- 법무·정책 담당이라면: 빅테크가 통신사·연방수사기관과 공동 원고로 가는 모델이 만들어졌습니다. AI 악용 사례에서 합동 소송 템플릿이 빠르게 표준화될 가능성이 있습니다.
- 모델을 쓰는 일반 기업이라면: 자사 브랜드가 사기 키트의 사칭 대상이 됐을 때를 가정한 대응 절차(브랜드 모니터링, 도메인 압수 협조, 사용자 공지)를 미리 정리해 두는 편이 낫습니다.
- 콘텐츠·미디어팀이라면: AI 생성 카툰·이미지가 여론 캠페인 매개체로 쓰이고 있다는 사실 자체가 새로운 리스크입니다. 출처 표기와 1차 검증 절차를 다시 점검할 시점입니다.
원문 출처
Maximilian Schreiner, “Google files first joint lawsuit with FBI over Chinese AI scam network, OpenAI blocks PRC influence clusters,” The Decoder, 2026-06-12. 원문 보기