Перший раз Google виявила і заблокувала нульоводенний штучно-інтелектуальний експлойт, що порушує двофакторну автентифікацію

Google виявила нульового‑дня експлойт, створений ШІ

*Коротко про факти*

Чому і що
Виявлення Google Threat Intelligence Group (GTIG) вперше визначила та заблокувала новий нульовий‑день експлойт. Авторство експлойту було згенеровано за допомогою штучного інтелекту, а не написано людиною вручну.

Мета атаки
Велике втручання у систему двофакторної автентифікації (2FA) веб‑застосунку з відкритим кодом для системного адміністрування.

Як розпізнали сліди ШІ
У Python‑коді були «підписки» – підроблена оцінка CVSS, типове «навчальне» форматування та шаблони, характерні для великих мовних моделей (LLM).

Причина вразливості
Помилка логіки: розробник припустив, що певний компонент системи завжди безпечний, і не перевіряв його. Через цей неперевірений елемент зловмисники обходили 2FA.

Об’єкт атаки
Конкретне застосування Google не розкриває.

Роль Gemini
За словами дослідників, модель Gemini не використовувалася при створенні експлойту.

Профілактика
Атака була зупинена до того, як вона могла стати масовою.

Що ще помітила GTIG
1. Нові методи атак

Зловмисники використовують ШІ не лише для створення шкідливого коду, а й для «обходу» інфраструктури самих систем ШІ.

2. Рольовий обман

Хакери формулюють запити так, ніби вони є експертом з безпеки, змушуючи моделі поводитися інакше, ніж передбачено обмеженнями.

3. Завантаження великих баз даних

У внутрішніх моделях завантажуються ціле каталоги вразливостей, а потім застосовують інструмент OpenClaw для налагодження шкідливих програм у контрольованому середовищі перед реальним розгортанням.

Висновок
Google змогла виявити та нейтралізувати експлойт, створений ШІ, завдяки детальному аналізу коду і розпізнаванню «підписів» машинного навчання. Це підкреслює необхідність постійної перевірки логіки застосунків і усвідомлення того, що зловмисники можуть використовувати ШІ як інструмент створення атак, так і для обходу захисних механізмів самих систем.