article

Microsoft trata agente de IA como ameaça interna

3 min de leitura

🎬 Assista esta matéria

A Microsoft anunciou na segunda-feira (19) um pacote de recursos de segurança corporativa construído sobre uma premissa incômoda para o setor: agentes de inteligência artificial devem ser vigiados como ameaças internas, mesmo quando vêm de laboratórios considerados confiáveis.

“Modelos de fronteira, independentemente da origem, não podem ser confiáveis”, escreveu Hayete Gallot, responsável pelo negócio de segurança da empresa. Para ela, o problema não é maldade nem facilidade de invasão, e sim imprevisibilidade: os modelos são treinados para concluir tarefas, não para seguir as normas e o julgamento de uma organização.

Guardian Agents e detecção no Defender

O principal item é o Guardian Agents, recurso que monitora os agentes de IA em uso dentro da empresa. Ele faz parte do Project Perception, apresentado em junho como resposta da Microsoft a modelos capazes de conduzir ataques cibernéticos, e que já reunia três tipos de agente: um time vermelho que ataca, um azul que detecta e avalia vulnerabilidades e um verde que corrige.

O Microsoft Defender ganhou detecção capaz de identificar até 60 tipos de agentes que funcionários levam para o ambiente de trabalho por conta própria, entre eles o Claude Code, o Codex e o OpenClaw. Há ainda controles que limitam o acesso dos agentes a dados e sistemas, ajustam permissões conforme a tarefa e exigem aprovação humana quando o agente parece estar tomando uma decisão arriscada.

A empresa também entrou como membro fundador da Open Agent Safety Platform, iniciativa da Nvidia que reúne mais de cem companhias e isola agentes em ambientes seguros, com capacidade de interromper o comportamento por hardware — uma espécie de botão de desligar. Os PCs Surface Laptop Ultra, anunciados antes, já saem com chips Nvidia e esses controles embutidos.

O recado de Nadella

A posição não é só da área técnica. Em publicação interna no início do mês, o presidente-executivo Satya Nadella defendeu que as empresas parem de confiar nas garantias de segurança dadas pelos próprios fornecedores de modelos e passem a operar sistemas de monitoramento e controle independentes deles. “Simplesmente não podemos terceirizar a responsabilidade pelo que a inteligência faz em nosso nome”, escreveu.

A ironia é evidente e foi notada pela imprensa: a Microsoft investiu tanto na OpenAI quanto na Anthropic, e a OpenAI é um de seus maiores clientes de nuvem. A empresa também ganha dinheiro vendendo justamente as ferramentas de segurança que diz serem necessárias porque as dos laboratórios não bastam.

O argumento central, ainda assim, segue a lógica da auditoria: quem fiscaliza precisa ser independente de quem é fiscalizado. O anúncio chega na mesma semana em que a invasão do OpenCode mostrou chaves de API de desenvolvedores sendo usadas por terceiros, e poucos dias depois de a OpenAI divulgar quatro novos incidentes de agentes fora de controle.

Fontes: TechCrunch

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis