🎬 Assista esta matéria
A Amazon anunciou na segunda-feira (19) o TorchNeuron, uma ferramenta de código aberto que faz aplicações escritas em PyTorch rodarem nos chips Trainium da própria empresa. Segundo a AWS, a migração exige mudar uma linha de configuração — na prática, trocar o dispositivo de cuda para neuron — sem reescrever o código.
O alvo é explícito. O PyTorch é a biblioteca usada em cerca de 85% das aplicações de inteligência artificial, de acordo com números citados pela própria Amazon, e há anos roda com fluidez em placas da Nvidia por causa do CUDA, a camada de software que virou o principal fosso competitivo da fabricante. É essa dependência que a AWS quer afrouxar.
“Remover a trava”
“A história real aqui é remover o aprisionamento que impedia os desenvolvedores de terem uma escolha de verdade”, disse Colin Brace, vice-presidente de tecnologia de software do Annapurna Labs, braço de chips da AWS, em declaração à TechCrunch.
A versão anterior de suporte ao PyTorch no Trainium passava por uma camada intermediária chamada XLA. O TorchNeuron elimina esse intermediário e funciona como backend nativo do PyTorch, com execução em modo eager, suporte a torch.compile e às APIs padrão de treinamento distribuído.
A Amazon também afirmou que vai enviar alterações para o repositório oficial do PyTorch, com o objetivo de reduzir trechos de código presos a um fabricante específico e tornar o framework mais agnóstico de hardware. A liberação formal como projeto aberto estava prevista para a conferência do PyTorch, nesta terça-feira (20).
Promessa grande, estreia incompleta
A primeira versão tem buracos conhecidos. Recursos como formatos dinâmicos de entrada ainda não funcionam, e cerca de 22 mil testes do PyTorch são pulados na execução sobre Trainium, segundo o blog do projeto — um indicador de quanta compatibilidade ainda falta.
Do lado dos resultados, o Annapurna Labs citou mais de 30 clientes já usando o caminho novo. A Deepgram, empresa de IA de voz, afirma processar 70% mais áudio por dólar depois da migração, mantendo a precisão de produção.
A AWS argumenta que o Trainium é uma opção melhor para startups do que as chamadas neoclouds — provedores como CoreWeave, Nebius e Firmus, em geral amarrados a hardware Nvidia —, porque entrega acesso ao restante da nuvem da Amazon e usa o mesmo chip para treinamento e inferência. A empresa admite que nem sempre terá o menor preço por token, mas diz que a conta fecha no total.
Analistas ouvidos pela imprensa especializada seguem cautelosos: a Amazon não precisa destronar o CUDA agora, precisa apenas baratear o custo de experimentar uma alternativa. O ecossistema da Nvidia continua mais maduro, e o Trainium ainda tem de provar desempenho, confiabilidade e economia em cargas pesadas.
A ironia apontada pelos próprios desenvolvedores é que o PyTorch existe justamente para esconder a complexidade do hardware. Se a aposta da Amazon der certo, o efeito passa de uma disputa de chips para a posição mais ampla da Nvidia no mercado.
Fontes: TechCrunch · The Next Web
🎙️ Gostou? Receba só o que te interessa, todo dia
Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.
Montar meu briefing grátis