개요
빅4 회계법인 중 한 곳인 KPMG가 고객사에 AI 도입을 권유하려고 펴낸 보고서에서, 사실관계가 조작된 도입 사례가 무더기로 발견됐습니다. 보고서 제목은 “Redefining excellence in the age of agentic AI(에이전틱 AI 시대의 탁월함 재정의)”. 정작 본문에 등장하는 도입 기관들은 하나같이 “우리는 그런 적 없다"고 답했습니다. AI를 팔려던 컨설팅사가 AI 환각으로 신뢰를 잃은 셈입니다.
핵심 요약
- KPMG가 고객 영업용으로 낸 보고서에 UBS, 영국 NHS, 스위스연방철도(SBB), 런던교통공사(TfL)의 AI 도입 사례가 실렸지만 전부 사실이 아니었습니다.
- AI 콘텐츠 탐지 업체 GPTZero가 의혹을 제기했고, 파이낸셜타임스(FT)가 별도로 확인했습니다.
- KPMG는 문제 보고서를 자사 여러 사이트에서 내렸습니다.
- 원인은 “vibe citing(느낌으로 인용)” — URL 없이 실제 자료를 대충 풀어 쓰거나, 저자를 잘못 적거나, 원본이 아예 존재하지 않는 식의 허술한 인용 관행입니다.
- GPTZero CEO 에드워드 티안(Edward Tian)은 빅4 보고서가 이렇게 굴러가면 “2차 환각"이 양산된다고 경고했습니다.
KPMG가 책에서 빌려쓴 ‘있지도 않은’ 도입 사례
문제의 보고서는 컨설팅사가 고객에게 “AI를 이렇게 쓰면 됩니다"라고 보여주는 일종의 영업용 자료였습니다. 그런데 본문에 인용된 글로벌 기관들의 도입 사례를 FT 기자가 한 곳씩 확인하자 곧바로 균열이 드러났습니다. UBS도, NHS도, 스위스연방철도도, 런던교통공사도 “보고서에 적힌 그런 프로젝트는 없다"고 답했습니다.
특정 직원 한 명이 실수로 잘못 인용한 정도가 아닙니다. 한 보고서 안에서 여러 기관의 사례가 동시에 어긋났다는 점이 더 무겁습니다. 결과적으로 KPMG는 보고서를 사이트에서 슬그머니 내렸습니다.
‘vibe citing’ — 컨설팅 보고서의 새로운 약점
GPTZero는 이번 인용 방식을 “vibe citing(바이브 사이팅)“이라고 불렀습니다. 진짜 자료를 정확히 인용한 게 아니라, 어렴풋한 인상만 빌려와 그럴듯한 문장으로 다시 쓰는 식입니다. 출처 URL이 빠져 있거나, 저자 이름이 잘못 적혀 있거나, 추적해 들어가면 원문이 아예 없는 경우도 있었습니다.
이런 문장은 사람 눈에는 매끄러워 보이지만, 한 단계만 확인 들어가면 무너집니다. 작성자가 LLM에 직접 시켰는지, 사람이 LLM 결과를 그대로 옮겼는지는 외부에서 알 수 없습니다. 다만 결과물의 형태는 “환각 섞인 AI 출력물을 검수 없이 통과시킨 글"과 매우 닮아 있습니다.
컨설팅 빅4 보고서가 만들어내는 ‘2차 환각’
문제의 무게가 단순한 오타 수준이 아닌 이유는 따로 있습니다. 빅4 컨설팅사의 보고서는 다른 회사의 의사결정 자료가 되고, 언론에 인용되고, 다시 다른 AI 모델의 학습 데이터로 흘러 들어갑니다. 한 번 잘못 나간 사실은 검색 결과와 다음 세대 LLM의 답변 속에 그대로 재활용됩니다.
GPTZero의 에드워드 티안은 이를 “2차 환각(secondary hallucinations)“이라고 표현했습니다. 컨설팅사의 권위가 가짜 사실에 신뢰의 도장을 찍어주는 구조라는 지적입니다. KPMG처럼 큰 회사일수록 잘못된 한 줄이 미치는 파급력은 더 큽니다.
AI 팔려던 회사가 AI에 데였다는 점
이 사건이 특히 뼈아픈 이유는, 보고서의 목적이 바로 “고객들에게 AI 도입을 권하는 것"이었기 때문입니다. AI 서비스를 영업하는 회사가 정작 자기 결과물에서 AI 환각을 거르지 못했다는 모순이 그대로 노출됐습니다. 최근 독일 법원이 구글의 AI 오버뷰가 만든 허위 정보에 책임을 물은 판결과 결도 비슷합니다. “AI가 그랬다"는 핑계가 더 이상 면죄부가 되지 않는 흐름입니다.
실무자가 볼 핵심 포인트
- AI가 끼어든 보고서를 외부에 내보내기 전, 인용된 도입 사례·통계·인물은 반드시 원문 URL까지 사람이 확인해야 합니다. “그럴듯하면 통과"는 더 이상 통하지 않습니다.
- 컨설팅사·언론사 보고서를 인용할 때도 한 단계 더 들어가는 습관이 필요합니다. 권위 있는 매체에 실렸다는 사실이 출처 검증을 대신해 주지 않습니다.
- LLM이 만든 문서를 워크플로에 끼울 때는 ‘인용 검증’ 단계를 별도로 두는 편이 안전합니다. 사실 확인을 빠뜨린 한 줄이 회사의 신뢰 비용으로 돌아옵니다.
- 자사 사례를 외부 보고서가 무단으로 인용한 흔적이 보이면, 빠르게 사실관계를 정정 요청하는 모니터링 루틴이 필요합니다. 이번처럼 큰 보고서일수록 흔적이 오래갑니다.