article

Google libera Pathways, o runtime que treina o Gemini

3 min de leitura

🎬 Assista esta matéria

O Google anunciou na segunda-feira (9) a disponibilidade geral do Cloud Pathways, o runtime de machine learning distribuído que o DeepMind construiu para treinar e servir os modelos de fronteira da empresa, incluindo o Gemini. A liberação vale para o Google Kubernetes Engine e faz parte do pacote de infraestrutura que a companhia chama de AI Hypercomputer.

O anúncio foi assinado pelo engenheiro Shaurya Gupta e pela gerente de produto Monica Song. Até agora, o sistema era usado internamente e por um grupo restrito de clientes — o Google havia prometido abri-lo a terceiros no Cloud Next de abril de 2025.

O que muda na prática

A diferença central é arquitetural. Em treinos distribuídos convencionais, cada host roda seu próprio controlador e o código precisa lidar com a coordenação. O Pathways usa um controlador único: um único processo cliente JAX enxerga e orquestra várias fatias grandes de TPU, que podem somar milhares de chips, como se estivessem todas conectadas localmente. A base é o Interim Framework Runtime, componente aberto do projeto XLA, e a ativação se dá definindo a variável JAX_PLATFORMS=proxy.

Entre os recursos listados estão cache persistente de compilação no Cloud Storage, despacho assíncrono de grafos XLA entre fatias, contêineres Python acompanhantes com memória compartilhada para carregar dados e salvar checkpoints, e um modo de treino elástico: usando snapshots em memória de host, o sistema consegue reparticionar o treino para N-1 fatias durante falhas de hardware sem derrubar o cliente.

A disponibilidade geral cobre todas as regiões do Google Cloud que oferecem TPU v5e, TPU v5p, Trillium (TPU v6e) e Ironwood (TPU 7x), com imagens de contêiner compatíveis com JAX 0.10.1 ou superior. Há também uma integração em prévia com o Cluster Director, que leva o Pathways para clusters Slurm.

Os limites do anúncio

O número que o Google escolheu destacar: nos últimos 90 dias, empresas de IA e grandes companhias processaram mais de 130 milhões de chip-horas de Cloud TPU usando o Pathways no GKE. A publicação cita ainda uma “das maiores empresas de tecnologia de consumo do mundo”, sem nomeá-la, rodando inferência em lote e aprendizado por reforço em dezenas de milhares de chips v5p, v6e e TPU 7x, com mais de 100 milhões de chip-horas por trimestre.

O caso nomeado é da ZenteiQ, que usa o runtime para pré-treino elástico e aprendizado por reforço em clusters Trillium multi-fatia voltados a modelos de fundação científicos. Segundo o fundador, professor Sashikumaar Ganesan, o controlador monitora a topologia de TPUs e redimensiona a carga automaticamente quando um chip ou fatia sai do ar.

O que não veio no anúncio é relevante para quem avalia a adoção: o Google não divulgou preços, não publicou comparação de desempenho contra a abordagem multi-controlador que o Pathways substitui e não mencionou suporte a GPUs nem ao PyTorch. Por ora, o sistema é exclusivo de TPU e de JAX.

Fontes: Google Cloud Blog · PPC Land

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis