OpenAI представила GPT-6 Cyber: модель ИИ обнаружила уязвимости в Firefox и Linux

На фоне разразившегося кризиса в сфере кибербезопасности, вызванного ростом числа хакерских атак с использованием искусственного интеллекта, компания OpenAI представила GPT-6 Cyber — специализированную модель ИИ для поиска уязвимостей, проверки возможности их эксплуатации и разработки исправлений. Модель уже помогла обнаружить 81 ранее неизвестную уязвимость Firefox и создать рабочие эксплойты для 948 уязвимостей ядра Linux. Пока что GPT-6 Cyber доступна через Codex и API только избранным участникам программы Daybreak Red.

По данным OpenAI, новая модель превосходит GPT-5.6 Cyber по большинству ключевых показателей и лучше соблюдает ограничения во время исследований. Она способна не только находить ошибки в программном обеспечении, но и проверять возможность их использования для атак, а также предлагать способы устранения.

Результаты тестирования

В бенчмарке ExploitGym, который проверяет способность моделей использовать уязвимости для атак на удалённые системы, GPT-6 Cyber набрала 48,5% против 32,1% у GPT-5.6 Cyber. Это соответствует относительному улучшению на 51%.

В другом испытании модель исследовала веб-приложения без доступа к их исходному коду. Она достигла 40,3% успешного использования уязвимостей, тогда как GPT-6 Astra показала 32%.

Для проверки возможностей разработки эксплойтов OpenAI создала RemoteExploitBench с задачами на основе уязвимостей GitLab, PostgreSQL и Jenkins. GPT-6 Cyber выполнила 95% задач, тогда как GPT-6 Astra с доступом к Daybreak Blue отказалась от всех.

Выявление уязвимостей

OpenAI уже использовала модель для исследования реального программного обеспечения. Основные результаты:

• Firefox: обнаружено 81 ранее неизвестную уязвимость высокого уровня опасности. Ещё 30 известных проблем модель помогла переоценить, установив, что они более серьёзны, чем считалось ранее. Команда OpenAI передала инженерам Mozilla сгенерированные моделью доказательства, воспроизводимые тесты и предложенные исправления. Компания начала распространять обновления;

• Linux: модель воспроизвела 1724 уязвимости и разработала рабочие эксплойты для 948 из них. Для сравнения: предыдущая версия GPT-5.6 Sol с помощью того же исследовательского оборудования создала 166 эксплойтов. Разработчикам Linux передали 304 критических результата и предложили варианты исправлений;

• Brotli: GPT-6 Cyber вместе с другими моделями OpenAI помогла разработать и протестировать эксплойты для критической уязвимости в библиотеке сжатия, которую используют Node.js и другие программные продукты. Она продемонстрировала возможность удаленного выполнения кода в уязвимых программах.

Модель также задействуют для проверки собственной инфраструктуры OpenAI. В ходе контролируемых испытаний (red-teaming) ИИ-агенты на базе GPT-6 Cyber и других моделей компании объединяли несколько уязвимостей, чтобы выходить за пределы микровиртуальных машин и выполнять код на базовых хостах. Полученные результаты использовали для исправления программного обеспечения и усиления сетевых ограничений.

Усиление контроля за действиями модели

Отдельным направлением разработки стало обучение GPT-6 Cyber соблюдать границы разрешенного исследования. Это важно, поскольку агенты кибербезопасности могут пытаться атаковать сторонние сервисы или выходить за пределы задач, определенных исследователями.

В одном из тестов ExploitGym Honeypot модель должна была исследовать уязвимость в изолированной среде, где также были доступны вспомогательные сервисы с намеренно созданными слабыми местами. Их использование не входило в разрешенную задачу.

Без дополнительных подсказок GPT-6 Cyber избегала атак на сторонние сервисы в 99,93% случаев против 94,49% у GPT-5.6 Cyber. С дополнительными инструкциями она соблюдала установленные ограничения в 100% тестов. OpenAI также внедрила дополнительные механизмы защиты от злоупотреблений:

• мониторинг соответствия действий пользователей предоставленным разрешениям;

• целевой мониторинг новых угроз (в частности, отслеживание попыток разработать эксплойты против активных PHP-серверов при раскрытии критических уязвимостей);

• автоматизированную проверку зашифрованных записей взаимодействий на признаки злоупотреблений без раскрытия промптов персоналу OpenAI;

• ограничение доступа к API Daybreak Red через список разрешенных IP-адресов по умолчанию (с определенными исключениями) и отслеживание компрометации учетных данных;

• рекомендации по использованию изолированных сред и человеческого надзора;

• блокировку высокорисковой деятельности в отношении критически важных систем.

Защита критически важной инфраструктуры

Отдельные ограничения касаются электростанций, водоочистных сооружений и промышленных систем управления (OT/ICS). OpenAI стремится предоставить защитникам этих объектов доступ к мощным моделям, не допуская их использования для вмешательства в работу оборудования или нарушения жизненно важных услуг.

Для этого компания создает специальную группу Daybreak Red для критической инфраструктуры, участники которой смогут проводить авторизованное тестирование таких систем. Кроме того, программа Daybreak for Frontline Defenders с бюджетом в 1 миллиард долларов призвана субсидировать доступ к инструментам кибербезопасности для организаций с ограниченными ресурсами.

Чтобы проверить эффективность защиты, OpenAI сотрудничала с компанией Dragos, специализирующейся на кибербезопасности промышленных систем. Dragos протестировала передовые модели программы Daybreak Red в контролируемой лаборатории, воспроизводящей инфраструктуру электростанции. Передовая модель самостоятельно отделила промышленные системы от обычного ИТ-трафика и обнаружила две уязвимости нулевого дня в инженерном программном обеспечении, управляющем защитными реле и автоматическими выключателями.

OpenAI использовала результаты испытаний для совершенствования защитных механизмов и планирует расширять сотрудничество с энергетическими компаниями, операторами критической инфраструктуры и специалистами по кибербезопасности.

Когда GPT-6 Cyber станет доступной

В настоящее время модель доступна через Codex и API только утвержденным участникам Daybreak Red. OpenAI планирует постепенно расширить доступ для всех клиентов программы, а также открыть для них GPT-5.6 Cyber.

Параллельно компания расширяет альфа-тестирование Daybreak Blue на базе GPT-6 Astra, привлекая больше организаций и независимых исследователей. Новые пользователи могут подавать заявки на участие в программе Daybreak.

Ранее журналисты Reuters обнародовали данные о многолетнем игнорировании руководством OpenAI внутренних уязвимостей ради сохранения лидерства в гонке с Google и Anthropic. Из-за чрезмерно широкого доступа сотрудников к коду и слабого контроля над внутренними системами компания стала уязвимой для иностранного шпионажа, свидетельством чего стал арест инженера OpenAI за установку прослушивающих устройств для Саудовской Аравии.