article

DeepSeek abre o DeepInfer, motor que serve seus modelos

3 min de leitura

🎬 Assista esta matéria

A DeepSeek publicou nesta terça-feira (20) o código do DeepInfer, o framework de inferência que a própria empresa usa para atender os seus serviços em produção. A licença é a Apache 2.0, a mais permissiva entre as usadas pelos laboratórios chineses, e o repositório está no GitHub sob a conta oficial da companhia.

Inferência é a etapa em que o modelo já treinado responde às requisições dos usuários — e é onde fica a maior parte do custo de operação de um serviço de IA. Até agora, quem quisesse servir um modelo da DeepSeek em escala precisava recorrer a projetos de terceiros, como o vLLM e o SGLang, e descobrir na tentativa e erro os ajustes que a empresa não documentava.

O que vem e o que não vem na caixa

A versão aberta é descrita no repositório como voltada à inferência off-line, com os componentes necessários para servir em grande escala. O único modelo listado como suportado é o DeepSeek-V4.1-Flash, lançado no mês passado com licença MIT. No hardware, a documentação cita as GPUs Nvidia da geração SM100 e as NPUs Ascend 950, da Huawei — a presença das duas é um recado sobre a estratégia chinesa de não depender de um fornecedor só.

Fica de fora, porém, uma parte do que faz o serviço da DeepSeek funcionar: o sistema de cache de contexto, a separação das etapas de prefill e decode em máquinas diferentes e os balanceadores de carga não entraram no pacote. Na prática, o DeepInfer não é suficiente para replicar o serviço comercial da empresa, mas encurta bastante o caminho de quem roda os modelos em infraestrutura própria.

Dívida com o vLLM

Segundo as primeiras análises do código, o DeepInfer nasceu em boa medida a partir do vLLM, o projeto aberto que se tornou padrão de fato para servir modelos de linguagem. O time do vLLM agradeceu publicamente a contribuição da DeepSeek, num reconhecimento recíproco incomum entre laboratório comercial e comunidade.

O repositório passou de 4 mil estrelas no primeiro dia, conforme o acompanhamento de veículos do setor. Para a DeepSeek, a abertura mantém a tática que vem usando desde fevereiro de 2025, quando liberou bibliotecas internas de comunicação entre GPUs: entregar a infraestrutura de graça, consolidar seus modelos como base de quem constrói aplicação e cobrar na API de quem não quer hospedar nada.

O movimento também chega num momento em que a empresa prepara uma oferta pública de ações e tenta mostrar receita recorrente, não só prestígio técnico.

Fontes: GitHub DeepInfer · AI Weekly

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis