UAC-0099 integra um « prompt de arma nuclear » em seus malwares para cegar analistas de IA

O grupo pró-russo UAC-0099 encontrou uma solução criativa contra a análise automatizada por LLM: inserir nos seus malwares um prompt sobre armas nucleares. As ferramentas de IA ativam seus filtros e se recusam a analisar — um *jailbreak* invertido que usa os próprios mecanismos de segurança da IA contra os defensores.

O que é: GuardBreaker, um « jailbreak inverso » para cegar a análise de IA

O grupo UAC-0099, alinhado com a Rússia e ativo desde 2022 contra alvos ucranianos e seus parceiros, introduziu uma técnica inédita em seus malwares. Batizada de GuardBreaker pelos pesquisadores da ESET, ela consiste em inserir no código malicioso um prompt em linguagem natural pedindo conselhos sobre a fabricação de armas nucleares.

O efeito é imediato e reprodutível: as ferramentas de análise automática baseadas em LLM (Large Language Model) recusam-se a analisar o arquivo assim que detectam esse conteúdo, invocando suas políticas de segurança sobre armas de destruição em massa. O analista se depara com uma ferramenta mudo. O malware passa despercebido.

A técnica em detalhes

O UAC-0099 insere o prompt em metadados, comentários ou cadeias de caracteres do binário. Quando um analista copia e cola o código em um LLM ou usa um plugin de análise automática, o modelo lê esse conteúdo e aciona seu filtro de segurança antes mesmo de analisar o código malicioso propriamente dito.

GuardBreaker é uma forma de jailbreak inverso: não se tenta contornar os filtros para obter conteúdo perigoso — eles são acionados deliberadamente para neutralizar a ferramenta de análise adversária. Um uso cínico das salvaguardas de segurança dos LLMs contra seus próprios usuários.

Quem é afetado

Qualquer analista ou SOC (Security Operations Center) que utilize LLMs como auxílio na análise de código suspeito. As plataformas de sandbox automático que integram modelos de IA também estão expostas se transmitirem o conteúdo bruto dos arquivos aos modelos sem pré-filtragem.

O que fazer

1. Nunca passar arquivos suspeitos brutos para um LLM sem pré-filtrar as cadeias de caracteres não-código (metadados, comentários, recursos embarcados)
2. Usar ferramentas de análise estática clássicas (IDA Pro, Ghidra, YARA) em paralelo aos LLMs — elas analisam os opcodes, não a linguagem natural
3. Sensibilizar as equipes SOC: se um LLM recusar-se a analisar um arquivo por "razões de segurança", isso é um sinal de alerta, não um resultado de análise. Pesquisar por "GuardBreaker ESET" para IOCs e regras de detecção.
4. Reportar a técnica aos editores de ferramentas de IA para que adaptem seus filtros aos contextos de análise de segurança

O que fazer agora

Se uma ferramenta de IA recusar-se a analisar um arquivo suspeito invocando suas políticas de segurança: não concluir pela ausência de ameaça. Passar imediatamente para a análise estática tradicional e tratar a recusa como um indicador de comprometimento potencial (IoC). Pesquisar por "GuardBreaker" nas bases YARA e nos feeds de ameaças da ESET.