구글의 40만 AI 칩 랙과 추론 비용 절감, 클라우드 실적을 여섯 개 패널로 정리한 도표

구글 TPU 수직 통합이 추론 단가를 78% 낮춘 구조

AI에서 돈이 영원히 빠져나가는 구간은 모델 학습이 아니라 매일 돌아가는 추론이고, 그 단가를 가장 크게 깎아낸 회사는 지금까지 구글입니다. 엔비디아 이야기가 AI의 전부처럼 들리는 데는 이유가 있습니다. 칩이 없으면 아무것도 시작되지 않으니까요. 그런데 칩을 사는 건 한 번이고, 그 칩으로 사용자 질문에 답하는 일은 서비스가 살아 있는 내내 계속됩니다. 비용의 무게중심이 여기에 있습니다. 구글은 2026년 5월 열린 I/O에서 월 3,200조 개(3.2쿼드릴리언) 토큰을 처리한다고 밝혔고, 같은 자리에서 제미나이 서빙 단가를 78% 낮췄다고 했습니다. 이 두 숫자가 함께 나왔다는 점이 핵심입니다. ...

2026년 8월 13일 · 10 분 · 2080 단어 · TechLLM
거대한 데이터센터를 둘러싸고 자금과 반도체가 원을 그리며 흐르는 모습

엔비디아 3500억달러 AI 순환 금융의 위험

엔비디아의 3500억 달러 규모 칩 금융 계획은 AI 호황의 중심이 기술 수요에서 신용 공급으로 이동하는 현상을 드러냅니다. 핵심 요약 보도된 계획에 따르면, 엔비디아는 오픈AI의 데이터센터 금융 약 2500억 달러를 보증하는 방안을 논의 중이며 최대 3500억 달러 규모의 자사 칩 구매 금융도 별도로 검토하고 있습니다. The Tech Report에 출연한 에드 지트론은 이 거래를 AI 기업, 클라우드 사업자, 반도체 공급자 간 순환 금융의 극단적인 사례로 봅니다. 영상에서 인용된 추정치대로라면 2026년 구글 클라우드 매출의 27%, AWS 매출의 13%가 오픈AI와 앤스로픽의 사용료에 기대므로, 투자자는 클라우드 성장률만 보고 실제 외부 수요를 판단하기 어렵습니다. ...

2026년 8월 2일 · 11 분 · 2281 단어 · TechLLM