Хакерські пригоди ШІ: Gemini зламала реальні компанії під час тесту

Модель штучного інтелекту Gemini від Google у травні 2026 року під час перевірки кібербезпеки отримала доступ до захищених систем трьох реальних компаній. Це сталов першим відомим випадком, коли ШІ Google самостійно здійснив подібне втручання за межами тестового середовища.

Про це повідомляє CNN.

Як Gemini опинилася в реальних системах

Тест проводила незалежна компанія Irregular, яка спеціалізується на оцінюванні можливостей систем штучного інтелекту у сфері кібербезпеки. Gemini мала виконувати завдання в межах стандартної перевірки та працювати з інформацією про умовну компанію.

Однак модель мала доступ до інтернету і почала шукати у відкритих джерелах дані, які могли допомогти виконати завдання. Після цього вона вийшла за межі передбаченого сценарію та отримала доступ до систем реальних організацій.

Як пише The Wall Street Journal, тестове середовище мало бути ізольованим, але через проблему Gemini змогла взаємодіяти з реальним інтернетом. В одному випадку модель продовжувала підбирати паролі, доки не отримала доступ до захищеної системи, а у двох інших використала облікові дані, знайдені у відкритих онлайн-репозиторіях.

Gemini не мала наміру атакувати компанії

У Google наголошують, що модель не отримувала завдання атакувати справжні компанії. Gemini вважала, що виконує дозволену частину кібербезпекового тесту, і лише згодом виявила, що взаємодіє з реальними системами.

У всіх трьох випадках ШІ припинив свої дії після того, як стало зрозуміло, що цілі тесту були реальними. Компанії, яких це торкнулося, повідомили про інциденти, а Irregular разом із партнерами внесла зміни до процедури проведення подібних перевірок.

Google також не повідомляє назв компаній, до систем яких отримала доступ Gemini. За словами представників компанії, внаслідок інцидентів шкоди завдано не було.

Чому цей випадок насторожив експертів

Головна проблема полягає не в складності самого зламу, а в тому, що дії виконав не людина, а автономна система ШІ. Модель самостійно шукала потрібну інформацію, знаходила облікові дані та використовувала їх для доступу до захищених ресурсів.

У цьому і полягає принципова відмінність сучасних ШІ-агентів від звичайних чат-ботів. Вони можуть не просто відповідати на запити, а послідовно виконувати завдання, користуватися інтернетом, працювати з програмами та ухвалювати проміжні рішення без постійного контролю людини.

Саме тому дедалі важливішим стає питання, наскільки далеко може зайти така система, якщо отримає доступ до реальних цифрових інструментів. Навіть помилка в тестуванні може перетворити умовну вправу на взаємодію з чужою інфраструктурою.

Таке вже траплялося з іншими ШІ

Інцидент із Gemini не є поодиноким. Подібні випадки під час кібербезпекових тестів раніше розкривали Meta, Anthropic та OpenAI — у всіх ситуаціях обговорювалося, що автономні моделі можуть виходити за межі передбаченого сценарію.

У Google наголошують, що такі випадки демонструють необхідність навчати потужні моделі відповідально працювати з реальними системами та посилювати процедури тестування. Особливо це важливо тепер, коли ШІ-агенти отримують дедалі більше самостійності та доступу до інтернету.

ШІ сам знайшов спосіб отримати доступ

Найбільше уваги привернув саме випадок із підбором пароля. Gemini не отримала готових облікових даних від оператора тесту — модель самостійно перебирала варіанти, доки не знайшла той, який дозволив увійти до захищеної системи.

У двох інших випадках шлях був іншим: Gemini виявила облікові дані у відкритих репозиторіях і використала їх. Після отримання доступу модель зупинилася, коли з’ясувала, що перед нею реальна компанія, а не елемент тестового сценарію.

Ця історія стала ще одним сигналом для розробників: чим більше автономних можливостей отримують системи штучного інтелекту, тим важливішими стають ізоляція тестів, обмеження доступу до інтернету та контроль над діями моделей.