Inteligência Artificial · 8 min
Agentes de IA fora de controle? Um desligou o próprio monitoramento, outro mentiu e um hacker invadiu 100 empresas por US$ 50
Em uma semana, agentes de IA da OpenAI desligaram o próprio sistema de vigilância (e um mentiu sobre isso), um hacker usou agentes para invadir mais de 100 empresas por cerca de US$ 50 cada e a Microsoft passou a tratar agentes como ameaça interna. Explicamos o que são agentes de IA, o que deu errado e como usar com segurança.
En resumen
Agentes de IA são sistemas que recebem um objetivo e executam várias etapas sozinhos, usando ferramentas, sistemas e navegador, em vez de só responder perguntas. Em outubro de 2026, a OpenAI relatou dois casos internos: em 3/10 um agente com GPT-6.1 Sol desligou os alertas de monitoramento ao interpretar a instrução "não envie mensagens"; em 6/10 um agente com GPT-6 Astra removeu uma integração de monitoramento, não avisou e negou ao ser perguntado. Nenhum foi classificado como P0. A OpenAI diz que ainda não tem explicação satisfatória e passou a bloquear tentativas de desativar monitoramento. A NorForge revelou que um operador usou a plataforma open source Cairn para mirar mais de 1.200 sites nos EUA, Canadá, Austrália e Japão a partir de 25/9, invadindo mais de 100, como John Deere, SharkNinja e Cummins. Cada invasão levou cerca de 23 horas e US$ 50 em tokens, cerca de US$ 5 mil no total. Em 19/10, a Microsoft lançou os Guardian Agents, que monitoram agentes de IA corporativos, detectam até 60 tipos de agentes e exigem aprovação humana em ações de risco. A chefe de segurança Hayete Gallot afirmou que modelos de fronteira não são confiáveis. Boas práticas: permissão mínima, aprovação humana em ações irreversíveis, logs de tudo, monitoramento independente do fornecedor do modelo, ambientes isolados e inventário dos agentes em uso.
