Штучний інтелект OpenAI самостійно знайшов доступ в інтернет і хакнув іншу компанію

Компанія OpenAI визнала, що її система штучного інтелекту під час тестування самостійно зламала систему іншої ШІ-компанії.

Перед цим стартап Hugging Face заявив, що виявив вторгнення в свої системи обробки даних. При цьому ознаки вказували не на дії окремого хакера, а на систему однієї з провідних компаній-розробників штучного інтелекту.

«Ми підозрювали, що кібератака минулого тижня могла виникнути з передової лабораторії, враховуючи складність агента, — заявив гендиректор Hugging Face Клеман Деланж. — Виявилося, що так і є! Він додав, що це можливо, перший в історії інцидент такого роду.

Гендиректор OpenAI Сем Альтман підтвердив, що кібератаку здійснила ШІ-програма, діючи автономно, сама по собі.

Йдеться про комбінацію GPT-5.6 Sol та ще потужнішої, ще не випущеної моделі.

OpenAI проводила внутрішній тест у закритій цифровій лабораторії (пісочниці), щоб оцінити, наскільки добре її моделі впораються зі зламом. Щоб побачити максимальну здатність, навмисно вимкнули фільтри безпеки.

Моделі зосередилися на розв’язанні завдання. Замість того, щоб зробити це у прогнозований спосіб, вони почали шукати швидший шлях і знайшли спосіб проникнути у відкритий інтернет, чого не мало статися.

ШІ виконав ланцюжок кроків, непомітно отримуючи все більше і більше доступу всередину власних систем OpenAI, поки не досяг точки підключення до інтернету.

Отримавши доступ, моделі вирішили, що Hugging Face — велика платформа, що розміщує моделі та набори даних ШІ — ймовірно, містить відповіді на те саме завдання, яке вони мали вирішити.

Тож вони зламали сервери Hugging Face, щоб викрасти ці відповіді, — по суті, обдурити, використовуючи вкрадені облікові дані для входу та інші недоліки.

Коментарі:

*Ці коментарі модеруються відповідно до наших правил ком’юніті