Agentes de IA de codificação: o ser humano erra 33% das requisições perigosas

Um estudo confirma que humanos supervisionando agentes de IA para codificação deixam passar um terço das solicitações potencialmente perigosas. E quando são solicitados a corrigir vulnerabilidades sozinhos, as IAs têm dificuldades sem supervisão. O paradoxo do *human-in-the-loop*.

O que: dois estudos, mesma conclusão

Duas publicações divulgadas em 6 de agosto de 2026 no The Register apresentam um cenário preocupante sobre a segurança dos agentes de IA para codificação, em duas direções opostas:

1. Os humanos deixam passar requisições perigosas: um estudo mostra que operadores humanos responsáveis pela supervisão de agentes de IA para codificação (human-in-the-loop) deixam passar cerca de um terço das requisições potencialmente perigosas — ações que poderiam comprometer um sistema, exfiltrar dados ou modificar um componente crítico.

2. As IA têm dificuldade para corrigir sem supervisão: uma segunda análise revela que os agentes de IA, quando solicitados a corrigir vulnerabilidades de forma autônoma, produzem resultados insuficientes ou incompletos sem um acompanhamento humano rigoroso.

Quem é impactado

Todas as equipes que utilizam agentes de IA assistentes de desenvolvimento com permissões estendidas: acesso a repositórios, capacidade de executar código, modificar arquivos de configuração ou interagir com APIs externas.

Os pipelines CI/CD automatizados, onde um agente de IA pode acionar ações sem validação humana, são especialmente afetados.

Análise dos desafios

Esses dois resultados, quando analisados em conjunto, criam um paradoxo de segurança: nem o humano sozinho nem a IA sozinha são suficientes. O humano cansado deixa passar ações perigosas. A IA autônoma produz correções insuficientes ou introduz novos problemas.

A superfície de ataque que surge aqui é documentada na série Agentes de IA autônomos, acompanhada por Geek Kitsune: frameworks de agentes LLM com permissões excessivas tornam-se vetores de ataque, seja por exploração externa (injeção de prompt, desvio) ou por erro interno (decisão equivocada do agente).

O índice de 33% de erros humanos na supervisão lembra os estudos clássicos sobre vigilância do operador: além de um certo volume de decisões a validar, o ser humano satura e deixa passar. Os agentes de IA geram justamente um fluxo elevado de requisições.

O que fazer

Ações imediatas

1. Audite as permissões dos seus agentes de IA para codificação: eles têm acesso à produção? Podem executar código arbitrário? Reduza ao mínimo necessário (princípio do menor privilégio)
2. Não confie apenas na supervisão humana: adicione barreiras técnicas (sandbox, registro exaustivo, alertas para ações sensíveis)
3. Teste seu pipeline: envie deliberadamente requisições perigosas ao seu agente e meça quantas sua equipe detecta
4. Para correção de vulnerabilidades por IA: exija sempre uma revisão de código humana nos patches produzidos — não implante diretamente em produção