Компанія ESET – лідер у галузі інформаційної безпеки – попереджає про появу нового методу для перешкоджання аналізу шкідливого коду, який російська група кіберзлочинців UAC-0099 застосувала під час атаки на цілі в Україні. Ця техніка, яка отримала назву GuardBreaker, передбачає застосування спеціально сформованого запиту, на який інструменти аналізу на основі великих мовних моделей (LLM) можуть відреагувати відмовою від подальшого аналізу.
Зокрема під час цієї атаки зловмисники намагалися обійти захисні механізми сканера коду на базі LLM, вставивши у коментар скрипта маніпулятивний запит щодо надання інструкцій зі створення ядерної зброї, щоб змусити інструмент припинити перевірку решти файлу до моменту, перш ніж той дійде до шкідливої частини коду. Мета шкідливого коду у скрипті – встановлення небезпечного завантажувача MATCHBOIL, який використовує лише група UAC-0099 для поширення інших компонентів.
Очевидна наявність цього коментаря свідчить про те, що група UAC-0099 враховувала можливість застосування інструментів ШІ в системі захисту жертви. Як і під час інших нещодавніх атак, зловмисники також перевіряли наявність процесів, пов’язаних із відомими інструментами аналізу.
Як зловмисники ускладнюють виявлення шкідливого коду
GuardBreaker можна розглядати як спробу вплинути на роботу LLM за допомогою вбудовування шкідливого запиту в файл. Під час аналізу модель отримує вміст цього файла разом із доданим зловмисником текстом, який може спричинити спрацювання її механізмів безпеки та перешкодити подальшому аналізу коду. Таким чином, ця атака спрямована на використання архітектурної уразливості сучасних мовних моделей, які обробляють безпечні та шкідливі запити.
Подібні спроби втручання в роботу сканерів на основі LLM особливо часто зустрічаються в атаках на ланцюг постачання програмного забезпечення. Зловмисники можуть намагатися відволікти увагу механізму аналізу за допомогою різних методів та їхніх комбінацій: наприклад, через нетипову або складну структуру файла інструмент може опрацювати його вміст лише частково. Окремі фрагменти шкідливого коду також можуть маскуватися під конфіденційні дані.
Як побудувати надійний захист від нових векторів атак
Компанії, які застосовують LLM для аналізу коду чи скриптів, а також в інших робочих процесах, мають чітко розуміти, що саме перевіряє кожен такий інструмент, до яких даних і ресурсів він має доступ та які дії може виконувати, зокрема і у випадку неможливості виконати поставлене завдання.
При цьому надзвичайно важливо, щоб системи на основі ШІ-агентів не могли самостійно визначати, чи єпевний фрагмент коду безпечним. Результати їхнього аналізу необхідно завжди піддавати додатковій перевірці з використанням багаторівневого та мультимодельного підходу, який дозволить максимально ефективно поєднати передові технології автоматизації та досвід спеціалістів. Відсутність результату також має бути підставою для додаткової перевірки.
У зв’язку з появою таких загроз, як малому, так і великому бізнесу, потрібен чіткий порядок дій — від запобігання та виявлення до реагування на інциденти. Для компаній, які не мають власної цілодобової команди з реагування, компанія ESET пропонує сервіс з управління виявленням та реагуванням (ESET MDR). Провідні спеціалісти постійно аналізують підозрілу активність та інциденти й визначатимуть необхідні подальші дії. Такий підхід поєднує багаторічний досвід використання технологій ШІ, перевірені методи аналізу, знання експертів, дослідження загроз і дані телеметрії з усього світу.
У разі виявлення шкідливої діяльності у власних IT-системах українські користувачі продуктів ESET завжди можуть звернутися за допомогою до цілодобової служби технічної підтримки за телефоном +380 44 545 77 26 або електронною адресою support@eset.ua.