article

Akamai abre beta de inferência e sandbox de agente

3 min de leitura

🎬 Assista esta matéria

A Akamai colocou em beta na terça-feira (27) dois serviços voltados a quem desenvolve aplicações com inteligência artificial: o Akamai Inference, para rodar modelos sob demanda, e o Akamai Agent Sandbox, um ambiente isolado para executar o código que agentes de IA escrevem sozinhos. Os dois ficam dentro da Akamai Cloud, que a empresa diz manter em clusters de GPU e CPU em regiões centrais e em mais de 4.350 pontos de borda.

O Inference oferece acesso gerenciado a modelos de peso aberto e a modelos próprios do cliente por meio de APIs compatíveis com o padrão da OpenAI — o que, na prática, significa que uma aplicação já escrita para o ChatGPT pode apontar para a Akamai sem reescrita de código. A empresa cuida da orquestração, da execução e da autenticação.

Doze modelos no catálogo inicial

O catálogo de estreia tem 12 modelos de peso aberto, com tamanhos de 8 bilhões a 2,8 trilhões de parâmetros. Entre os nomes divulgados estão o Nemotron 3 Ultra, da Nvidia, o gpt-oss-120b, da OpenAI, e o Gemma 4, do Google. Há também modelos de embedding, usados em sistemas de busca e recuperação de documentos (RAG).

A cobrança tem dois formatos: inferência serverless, paga por uso, ou implantação dedicada. A Akamai não divulgou preços.

Do lado do hardware, a companhia informou que usa GPUs RTX PRO 6000 Blackwell Server Edition para inferência de baixa latência, além de clusters Blackwell Ultra, com oito GPUs por nó e 288 GB de memória HBM3e em cada uma — 2,3 TB por nó. Clientes interessados nos clusters B300 precisam falar com a área comercial. Os data centers estão sendo preparados para receber a arquitetura Vera Rubin, da Nvidia, em 2027.

O código do agente roda em outro lugar

O Agent Sandbox atende a um problema prático de quem põe agentes em produção: o modelo gera código e alguém precisa executá-lo sem risco para o resto do sistema. No desenho da Akamai, o agente roda no Akamai Functions, mas o código que ele escreve é executado em um ambiente separado do próprio tempo de execução do agente.

O isolamento é feito com WebAssembly, que limita processamento, memória, conexões de saída e privilégios de sistema. O componente é open source e faz parte do framework Spin, criado pela Fermyon — empresa que a Akamai comprou anteriormente para reforçar sua operação de computação serverless na borda. Também há opções de Kubernetes gerenciado e de infraestrutura dedicada de CPU ou GPU, e a empresa diz que prepara recursos para controlar o que cada agente pode acessar e quem pode acessá-lo.

“A inferência de IA vai representar a maior parte do foco e do investimento das empresas”, afirmou Adam Karon, diretor de operações e gerente-geral da Akamai Cloud, segundo o Techzine. Ele disse que os clientes “comprovaram essa tese e nos puxaram mais adiante”.

Os dois produtos seguem em beta, e a Akamai não informou data para disponibilidade geral nem limites de uso. A empresa, conhecida por sua rede de distribuição de conteúdo, vem tentando se posicionar como alternativa às grandes nuvens justamente na etapa de inferência, em que a proximidade física com o usuário final reduz latência.

Fontes: Techzine · StockTitan · Crypto Briefing

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis