UAC-0099 integriert einen „Atomwaffen-Prompt“ in seine Malware, um KI-Analysten zu blenden

Die pro-russische Gruppe UAC-0099 hat eine originelle Methode gegen die automatisierte Analyse durch LLMs gefunden: Sie bauen in ihre Malware einen Prompt über Nuklearwaffen ein. Die KI-Tools aktivieren ihre Filter und verweigern die Analyse – ein umgekehrter Jailbreak, der die KI-Schutzmechanismen gegen die Verteidiger einsetzt.

Was: GuardBreaker, ein „umgekehrter Jailbreak“ zur Blendung von KI-Analysen

Die Gruppe UAC-0099, mit Russland verbunden und seit 2022 gegen ukrainische Ziele und deren Partner aktiv, hat eine neuartige Technik in ihre Malware eingeführt. Von den Forschern von ESET als GuardBreaker bezeichnet, besteht sie darin, im schädlichen Code einen Prompt in natürlicher Sprache einzubetten, der um Rat zur Herstellung von Nuklearwaffen bittet.

Die Wirkung tritt sofort und reproduzierbar ein: Automatisierte Analyse-Tools auf Basis von LLM (Large Language Models) verweigern die Analyse der Datei, sobald sie diesen Inhalt erkennen, und berufen sich dabei auf ihre Sicherheitsrichtlinien zu Massenvernichtungswaffen. Der Analyst erhält ein stummes Werkzeug. Die Malware entgeht der Entdeckung.

Die Technik im Detail

UAC-0099 fügt den Prompt in Metadaten, Kommentare oder Zeichenketten der Binärdatei ein. Wenn ein Analyst den Code in ein LLM kopiert oder ein automatisches Analyse-Plugin verwendet, liest das Modell diesen Inhalt und löst seinen Sicherheitsfilter aus, noch bevor es den eigentlichen schädlichen Code analysiert.

GuardBreaker ist eine Form des umgekehrten Jailbreaks: Man versucht nicht, die Filter zu umgehen, um gefährlichen Inhalt zu erhalten – man löst sie gezielt aus, um das gegnerische Analyse-Tool zu neutralisieren. Eine zynische Nutzung der Sicherheitsvorkehrungen von LLMs gegen ihre eigenen Nutzer.

Wer ist betroffen

Jeder Analyst oder SOC (Security Operations Center), der LLMs als Hilfsmittel zur Analyse verdächtigen Codes einsetzt. Auch automatische Sandbox-Plattformen, die integrierte KI-Modelle nutzen, sind gefährdet, sofern sie den Rohinhalt der Dateien ohne Vorfilterung an die Modelle weitergeben.

Was tun

1. Verdächtige Dateien niemals unvorbehandelt an ein LLM übergeben, ohne Zeichenketten ohne Code-Charakter (Metadaten, Kommentare, eingebettete Ressourcen) vorzufiltern
2. Klassische statische Analyse-Tools (IDA Pro, Ghidra, YARA) parallel zu LLMs nutzen – sie analysieren Opcodes, nicht natürliche Sprache
3. SOC-Teams sensibilisieren: Wenn ein LLM die Analyse einer Datei aus „Sicherheitsgründen“ verweigert, ist das ein Alarmsignal, kein Analyseergebnis. Nach „GuardBreaker ESET“ suchen, um IOCs und Erkennungsregeln zu finden
4. Die Technik den KI-Tool-Herstellern melden, damit sie ihre Filter an Analysekontexte der Cybersicherheit anpassen

Jetzt handeln

Wenn ein KI-Tool die Analyse einer verdächtigen Datei aus Sicherheitsrichtlinien verweigert: nicht auf eine fehlende Bedrohung schließen. Sofort zur traditionellen statischen Analyse übergehen und die Verweigerung selbst als potenziellen Kompromissindikator (IoC) behandeln. Nach „GuardBreaker“ in YARA-Regeln und ESET-Threat-Feeds suchen.