UAC-0099는 악성코드에 "핵무기 프롬프트"를 통합하여 AI 분석가들을 무력화합니다.

프로러시아 그룹 UAC-0099가 LLM 자동 분석을 피하기 위한 독창적인 방법을 찾았다: 악성코드에 핵무기에 대한 프롬프트를 심은 것이다. AI 도구들이 필터를 작동시키고 분석을 거부하게 만드는 역제어(jailbreak) 방식으로, AI의 보호 장치를 방어자들에게 역으로 활용한 것이다.

무엇 : GuardBreaker, AI 분석을 무력화하는 '역 제이브레이크'

러시아와 alignment된 UAC-0099 그룹은 2022년부터 우크라이나 대상 및 파트너들을 공격해 왔으며, 이번에 새로운 기술을 악성코드에 도입했습니다. ESET 연구진이 GuardBreaker로 명명한 이 기술은 악성코드 코드 내에 자연어 프롬프트를 삽입하여 핵무기 제조에 대한 조언을 요청하는 방식입니다.

즉각적이고 재현 가능한 효과: LLM(Large Language Model) 기반 자동 분석 도구는 이 내용을 감지하자마자 대량 살상 무기 정책을 이유로 분석을 거부합니다. 분석가는 아무런 정보도 얻지 못한 채 도구가 침묵합니다. 악성코드는 그대로 통과됩니다.

상세 기술

UAC-0099는 이 프롬프트를 바이너리의 메타데이터, 주석, 문자열에 삽입합니다. 분석가가 코드를 LLM에 복사-붙여넣기 하거나 자동 분석 플러그인을 사용할 경우, 모델은 악성코드 자체를 분석하기도 전에 보안 필터를 발동합니다.

GuardBreaker는 역 제이브레이크 형태입니다: 위험한 콘텐츠를 얻기 위해 필터를 우회하는 것이 아니라, 의도적으로 필터를 발동시켜 상대방의 분석 도구를 무력화하는 것입니다. LLM의 보안 장치를 악용하는 매우 비뚤어진 활용 방식입니다.

영향 대상

악성코드 분석 보조용으로 LLM을 사용하는 모든 분석가 및 SOC(Security Operations Center). 또한 파일 콘텐츠를 그대로 모델에 전달하는 자동 샌드박스 플랫폼도 사전 필터링 없이 노출됩니다.

대응 방법

1. LLM에 의심스러운 파일을 그대로 전달하지 마세요. 코드가 아닌 문자열(메타데이터, 주석, 포함된 리소스) 사전 필터링을 반드시 수행하세요.
2. LLM과 병행하여 전통적인 정적 분석 도구(IDA Pro, Ghidra, YARA)를 사용하세요. 이들은 자연어가 아닌 opcode를 분석합니다.
3. SOC 팀 교육: LLM이 "보안 정책"을 이유로 분석을 거부한다면, 이는 분석 결과가 아니라 경고 신호입니다. "GuardBreaker ESET"을 검색하여 IOC 및 탐지 규칙을 확인하세요.
4. 보안 분석 컨텍스트에 맞게 필터를 개선할 수 있도록 AI 도구 개발사에 이 기술을 보고하세요.

즉시 해야 할 일

의심스러운 파일을 AI 도구가 보안 정책을 이유로 분석을 거부한다면, 위협이 없음을 결론짓지 마세요. 즉시 전통적 정적 분석으로 넘어가며, 거부 자체를 잠재적 침해 지표(IoC)로 처리하세요. YARA 규칙 및 ESET threat feed에서 "GuardBreaker"를 검색하세요.