article

Google abre TorchTPU e roda PyTorch nativo em TPU

3 min de leitura

🎬 Assista esta matéria

O Google liberou como código aberto o TorchTPU, um backend que faz o PyTorch rodar nativamente em suas TPUs. O anúncio foi feito em 20 de outubro de 2026, durante a PyTorch Conference 2026, e o projeto foi desenvolvido em conjunto com o time de PyTorch da Meta.

A promessa prática é reduzir o atrito de migração. Na maior parte dos casos, código que hoje aponta para GPU passa a usar TPU trocando a string do dispositivo — .to("cuda") vira .to("tpu"). No Hugging Face Transformers v5, o caminho é o argumento device_map="tpu" na carga do modelo. O backend aceita execução em modo eager, para depuração, e torch.compile para produção.

Números e repositórios

O Google publicou o código em quatro repositórios principais no GitHub: TorchTPU, os backends de inferência vLLM-TorchTPU e SGLang-TorchTPU, e o TorchTitan, voltado a treinamento. Há também receita de GRPO no VeRL, suporte no Ray, conversão para dispositivos via LiteRT-Torch e um conjunto de agentes de TPU em prévia, para diagnóstico e ajuste de inferência.

Os números divulgados são do próprio fornecedor e, por ora, não têm verificação independente. Em treinamento com TorchTitan, a empresa relata até 52% de MFU (aproveitamento de FLOPs do modelo) no Qwen 3 8B, com escala quase linear e estabilidade em até 8.192 chips Ironwood, a geração TPU v7x. Em inferência, o caso da Zenteiq com llm-d aponta ganho de mais de 4x na vazão agregada, de 1,47 bilhão para 5,97 bilhões de tokens por dia em 1.000 aceleradores TPU v6e.

Reportagens especializadas citam ainda cobertura de cerca de 450 operações Aten e um teste em que 4.821 de 4.917 modelos do Hugging Face passaram no backend, taxa de 98%. Segundo a equipe do Google, o TorchTPU substitui o antigo PyTorch/XLA e é a recomendação para novas cargas de trabalho.

Por que isso importa

A dependência do ecossistema CUDA é um dos pilares da vantagem competitiva da Nvidia — e o TorchTPU não veio sozinho: no mesmo 20 de outubro, a Amazon abriu o TorchNeuron, backend equivalente para seus chips Trainium. O PyTorch é o framework dominante em pesquisa e, até aqui, usar TPU costumava exigir JAX ou a camada intermediária do XLA — barreira de aprendizado que empurrava equipes de volta para GPU.

Vale notar que, no comparativo de treinamento citado pela imprensa, o TorchTPU ficou em 1.828 tokens por segundo num pod de 64 chips TPU v7, contra 1.937 tokens por segundo do JAX/MaxText no mesmo hardware. Ou seja, a conveniência ainda cobra um pequeno custo de desempenho frente à rota nativa do Google.

A lista de parceiros no lançamento inclui Hugging Face, com suporte nativo em Transformers v5 e Diffusers e CI noturno em infraestrutura de TPU, além de Red Hat, IBM, Anyscale, Inferact e RadixArk. A licença citada nas coberturas é Apache 2.0.

Para o mercado, o movimento é de distribuição: quanto menor o custo de trocar de acelerador, maior a chance de um cliente testar TPU em vez de renovar contrato de GPU. A recepção da comunidade, até agora, foi positiva com ressalvas — parte dos desenvolvedores quer ver os benchmarks reproduzidos fora do Google antes de mover treinos de produção.

Fontes: Google Cloud, PyTorch, MarkTechPost

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis