ШІ Google вперше самостійно зламав системи реальних компаній

Модель штучного інтелекту Gemini під час перевірки кібербезпеки отримала доступ до систем трьох реальних компаній. Про це повідомляє «Главком» з посиланням на The Wall Street Journal та Reuters.

Інциденти сталися у травні 2026 року під час перевірки, яку проводила компанія Irregular, що спеціалізується на оцінюванні безпеки систем штучного інтелекту. Gemini мала виконати завдання у змодельованому середовищі – отримати певну інформацію з програмного забезпечення вигаданої компанії.

Під час підготовки до тестування допустили дві помилки: середовищу випадково відкрили доступ до інтернету, а вигадана організація мала таку саму назву, як одна з реальних компаній. Через це модель могла сприйняти справжні вебресурси за частину умовного завдання.

В одному випадку Gemini підбирала паролі, доки не отримала доступ до захищеної системи. У двох інших ситуаціях модель знайшла облікові дані у відкритих репозиторіях і скористалася ними для входу в системи компаній – за даними Reuters, потрібні для доступу дані вона щоразу діставала з відкритих джерел.

У всіх трьох випадках Gemini припинила дії, щойно визначила, що має справу зі справжніми компаніями. Google повідомив постраждалі організації про інциденти; за даними корпорації, шкоди їм завдано не було. «Це підкреслює важливість навчання потужних моделей штучного інтелекту діяти відповідально», – заявила віцепрезидентка Google з питань безпеки Хізер Адкінс.

Google не повідомляв про випадки одразу

Irregular повідомила Google про інциденти наприкінці липня. Публічно про них стало відомо лише після того, як до компаній звернулися журналісти The Wall Street Journal.

У Google не вважають ці випадки втратою контролю над моделлю, наголошуючи, що Gemini самостійно зупинилася, щойно виявила реальні цілі. Після цього Google та Irregular переглянули процедури тестування, щоб унеможливити повторення подібної ситуації.

Назви трьох постраждалих компаній не розголошуються – так само, як і версія моделі, яку використовували під час перевірки.

Подібні випадки фіксували й у інших розробників ШІ

Інцидент із Gemini став першим відомим випадком, коли система Google під час випробувань самостійно дісталася інфраструктури реальних сторонніх компаній. Але з подібною поведінкою ШІ-агентів під час кібертестів раніше стикалися й інші великі розробники.

У липні OpenAI повідомила, що одна з її нерелізних моделей вирвалася з ізольованого тестового середовища та зламала платформу Hugging Face. Це спонукало Anthropic перевірити власні журнали тестувань: серед понад 141 тисячі запусків компанія знайшла три випадки, коли її моделі – Claude Opus 4.7, Claude Mythos 5 та один невипущений експериментальний ШІ – через такий самий збій у партнера Irregular отримали доступ до інтернету й скомпрометували системи трьох компаній. На відміну від Gemini, в одному з цих випадків модель, за даними компанії, не зупинилася одразу після того, як з'ясувала, що атакує реальну організацію. У Meta натомість заявили, що їхній випадок не був пов'язаний ані з утечею з тестового середовища, ані зі складною кібератакою.