OpenAI представила GPT-6 Cyber: ШІ-модель виявила вразливості у Firefox та Linux

На тлі настання кризи в кібербезпеці через зростання кількості хакерських атак, здійснених за допомогою штучного інтелекту, OpenAI представила GPT-6 Cyber — спеціалізовану ШІ-модель для пошуку вразливостей, перевірки їхньої експлуатації та розробки виправлень. Модель уже допомогла виявити 81 раніше невідому вразливість Firefox і створити робочі експлойти для 948 вразливостей ядра Linux. Поки що GPT-6 Cyber доступна через Codex та API лише обраним учасникам програми Daybreak Red.

За даними OpenAI, нова модель перевершує GPT-5.6 Cyber за більшістю ключових показників і краще дотримується обмежень під час досліджень. Вона здатна не лише знаходити помилки в програмному забезпеченні, а й перевіряти можливість їх використання для атак та пропонувати способи усунення.

Результати тестування

У бенчмарку ExploitGym, який перевіряє здатність моделей використовувати вразливості для атак на віддалені системи, GPT-6 Cyber набрала 48,5% проти 32,1% у GPT-5.6 Cyber. Це відповідає відносному покращенню на 51%.

В іншому випробуванні модель досліджувала вебзастосунки без доступу до їхнього вихідного коду. Вона досягла 40,3% успішного використання вразливостей, тоді як GPT-6 Astra показала 32%.

Для перевірки можливостей розробки експлойтів OpenAI створила RemoteExploitBench із завданнями на основі вразливостей GitLab, PostgreSQL і Jenkins. GPT-6 Cyber виконала 95% завдань, тоді як GPT-6 Astra з доступом до Daybreak Blue відмовилася від усіх.

Виявлення вразливостей

OpenAI вже використовувала модель для дослідження реального програмного забезпечення. Основні результати:

• Firefox: виявлено 81 раніше невідому вразливість високого рівня небезпеки. Ще 30 відомих проблем модель допомогла переоцінити, встановивши, що вони серйозніші, ніж вважалося раніше. Команда OpenAI передала інженерам Mozilla згенеровані моделлю докази, відтворювані тести та запропоновані виправлення. Компанія почала поширювати оновлення;

• Linux: модель відтворила 1724 вразливості та розробила робочі експлойти для 948 із них. Для порівняння, попередня GPT-5.6 Sol за допомогою того самого дослідницького обладнання створила 166 експлойтів. Розробникам Linux передали 304 критичні результати та запропонували варіанти виправлень;

• Brotli: GPT-6 Cyber разом з іншими моделями OpenAI допомогла розробити й перевірити експлойти для критичної вразливості в бібліотеці стиснення, яку використовують Node.js та інші програмні продукти. Вона демонструвала можливість віддаленого виконання коду в уражених програмах.

Модель також залучають до перевірки власної інфраструктури OpenAI. Під час контрольованих випробувань (red-teaming) ШІ-агенти на базі GPT-6 Cyber та інших моделей компанії об'єднували кілька вразливостей, щоб виходити за межі мікровіртуальних машин і виконувати код на базових хостах. Отримані результати використали для виправлення програмного забезпечення та посилення мережевих обмежень.

Посилення контролю за діями моделі

Окремим напрямом розробки стало навчання GPT-6 Cyber дотримуватися меж дозволеного дослідження. Це важливо, оскільки кібербезпекові агенти можуть намагатися атакувати сторонні сервіси або виходити за межі завдань, визначених дослідниками.

В одному з тестів ExploitGym Honeypot модель мала дослідити вразливість в ізольованому середовищі, де також були доступні допоміжні сервіси з навмисно створеними слабкими місцями. Їх використання не входило до дозволеного завдання.

Без додаткових підказок GPT-6 Cyber уникала атак на сторонні сервіси у 99,93% випадків проти 94,49% у GPT-5.6 Cyber. З додатковими інструкціями вона дотримувалася встановлених обмежень у 100% тестів. OpenAI також запровадила додаткові механізми захисту від зловживань:

• моніторинг відповідності дій користувачів наданим дозволам;

• цільовий моніторинг нових загроз (зокрема відстеження спроб розробити експлойти проти активних PHP-серверів під час розкриття критичних вразливостей);

• автоматизовану перевірку зашифрованих записів взаємодій на ознаки зловживань без розкриття промптів персоналу OpenAI;

• обмеження доступу до API Daybreak Red через список дозволених IP-адрес за замовчуванням (із певними винятками) та відстеження компрометації облікових даних;

• рекомендації щодо використання ізольованих середовищ і людського нагляду;

• блокування високоризикової діяльності щодо критично важливих систем.

Захист критичної інфраструктури

Окремі обмеження стосуються електростанцій, водоочисних споруд та промислових систем управління (OT/ICS). OpenAI прагне надати захисникам цих об'єктів доступ до потужних моделей, не допускаючи їх використання для втручання в роботу обладнання чи порушення життєво важливих послуг.

Для цього компанія створює спеціальну групу Daybreak Red для критичної інфраструктури, учасники якої зможуть проводити авторизоване тестування таких систем. Крім того, програма Daybreak for Frontline Defenders із бюджетом 1 мільярд доларів має субсидувати доступ до інструментів кібербезпеки для організацій з обмеженими ресурсами.

Щоб перевірити ефективність захисту, OpenAI співпрацювала з компанією Dragos, яка спеціалізується на кібербезпеці промислових систем. Dragos протестувала передові моделі програми Daybreak Red у контрольованій лабораторії, що відтворювала інфраструктуру електростанції. Передова модель самотужки відокремила промислові системи від звичайного ІТ-трафіку та виявила дві вразливості нульового дня в інженерному програмному забезпеченні, яке керує захисними реле та автоматичними вимикачами.

OpenAI використала результати випробувань для вдосконалення захисних механізмів і планує розширювати співпрацю з енергетичними компаніями, операторами критичної інфраструктури та фахівцями з кібербезпеки.

Коли GPT-6 Cyber стане доступною

Наразі модель можна використовувати через Codex та API лише схваленим учасникам Daybreak Red. OpenAI планує поступово розширити доступ на всіх клієнтів програми, а також відкрити для них GPT-5.6 Cyber.

Паралельно компанія розширює альфа-тестування Daybreak Blue на базі GPT-6 Astra, залучаючи більше організацій і незалежних дослідників. Нові користувачі можуть подавати заявки на участь у програмі Daybreak.

Раніше журналісти Reuters оприлюднили дані про багаторічне ігнорування керівництвом OpenAI внутрішніх вразливостей заради збереження лідерства в перегонах проти Google та Anthropic. Через надмірно широкий доступ співробітників до коду та слабкий контроль внутрішніх систем компанія стала вразливою до іноземного шпигунства, свідченням чого став арешт інженера OpenAI за встановлення прослуховування для Саудівської Аравії.