article

Amazon abre TorchNeuron e mira o monopólio do CUDA

3 min de leitura

🎬 Assista esta matéria

A Amazon anunciou na segunda-feira (19) o TorchNeuron, uma ferramenta de código aberto que faz aplicações escritas em PyTorch rodarem nos chips Trainium da própria empresa. Segundo a AWS, a migração exige mudar uma linha de configuração — na prática, trocar o dispositivo de cuda para neuron — sem reescrever o código.

O alvo é explícito. O PyTorch é a biblioteca usada em cerca de 85% das aplicações de inteligência artificial, de acordo com números citados pela própria Amazon, e há anos roda com fluidez em placas da Nvidia por causa do CUDA, a camada de software que virou o principal fosso competitivo da fabricante. É essa dependência que a AWS quer afrouxar.

“Remover a trava”

“A história real aqui é remover o aprisionamento que impedia os desenvolvedores de terem uma escolha de verdade”, disse Colin Brace, vice-presidente de tecnologia de software do Annapurna Labs, braço de chips da AWS, em declaração à TechCrunch.

A versão anterior de suporte ao PyTorch no Trainium passava por uma camada intermediária chamada XLA. O TorchNeuron elimina esse intermediário e funciona como backend nativo do PyTorch, com execução em modo eager, suporte a torch.compile e às APIs padrão de treinamento distribuído.

A Amazon também afirmou que vai enviar alterações para o repositório oficial do PyTorch, com o objetivo de reduzir trechos de código presos a um fabricante específico e tornar o framework mais agnóstico de hardware. A liberação formal como projeto aberto estava prevista para a conferência do PyTorch, nesta terça-feira (20).

Promessa grande, estreia incompleta

A primeira versão tem buracos conhecidos. Recursos como formatos dinâmicos de entrada ainda não funcionam, e cerca de 22 mil testes do PyTorch são pulados na execução sobre Trainium, segundo o blog do projeto — um indicador de quanta compatibilidade ainda falta.

Do lado dos resultados, o Annapurna Labs citou mais de 30 clientes já usando o caminho novo. A Deepgram, empresa de IA de voz, afirma processar 70% mais áudio por dólar depois da migração, mantendo a precisão de produção.

A AWS argumenta que o Trainium é uma opção melhor para startups do que as chamadas neoclouds — provedores como CoreWeave, Nebius e Firmus, em geral amarrados a hardware Nvidia —, porque entrega acesso ao restante da nuvem da Amazon e usa o mesmo chip para treinamento e inferência. A empresa admite que nem sempre terá o menor preço por token, mas diz que a conta fecha no total.

Analistas ouvidos pela imprensa especializada seguem cautelosos: a Amazon não precisa destronar o CUDA agora, precisa apenas baratear o custo de experimentar uma alternativa. O ecossistema da Nvidia continua mais maduro, e o Trainium ainda tem de provar desempenho, confiabilidade e economia em cargas pesadas.

A ironia apontada pelos próprios desenvolvedores é que o PyTorch existe justamente para esconder a complexidade do hardware. Se a aposta da Amazon der certo, o efeito passa de uma disputa de chips para a posição mais ampla da Nvidia no mercado.

Fontes: TechCrunch · The Next Web

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis