
구글 TPU 수직 통합이 추론 단가를 78% 낮춘 구조
AI에서 돈이 영원히 빠져나가는 구간은 모델 학습이 아니라 매일 돌아가는 추론이고, 그 단가를 가장 크게 깎아낸 회사는 지금까지 구글입니다. 엔비디아 이야기가 AI의 전부처럼 들리는 데는 이유가 있습니다. 칩이 없으면 아무것도 시작되지 않으니까요. 그런데 칩을 사는 건 한 번이고, 그 칩으로 사용자 질문에 답하는 일은 서비스가 살아 있는 내내 계속됩니다. 비용의 무게중심이 여기에 있습니다. 구글은 2026년 5월 열린 I/O에서 월 3,200조 개(3.2쿼드릴리언) 토큰을 처리한다고 밝혔고, 같은 자리에서 제미나이 서빙 단가를 78% 낮췄다고 했습니다. 이 두 숫자가 함께 나왔다는 점이 핵심입니다. ...




