«Мы больше не сможем исправить все ошибки»: эксперты предупредили о кризисе в сфере кибербезопасности из-за ИИ

Руководители ведущих технологических компаний предупреждают о новой угрозе кибербезопасности: искусственный интеллект позволяет обнаруживать критические уязвимости в программном обеспечении с беспрецедентной скоростью. Во время так называемого «Черного октября» исследователи обнаружили серьезные недостатки в PHP — языке программирования, на котором работают миллионы веб-сайтов. Эксперты опасаются, что злоумышленники будут использовать ИИ для поиска и эксплуатации таких уязвимостей быстрее, чем разработчики и специалисты по кибербезопасности смогут их устранять, сообщает The Guardian.

«Я больше не думаю, что мы сможем исправить все ошибки», — заявил генеральный директор OpenAI Сэм Альтман.

Заместитель директора по информационной безопасности Anthropic Джейсон Клинтон назвал ситуацию «цунами уязвимостей» и предупредил, что времени на исправление критической инфраструктуры может не хватить. Генеральный директор Salesforce Марк Бениофф, со своей стороны, охарактеризовал ситуацию как «красный уровень угрозы» (code red).

«Будет казаться, будто небо падает на землю. Будет казаться, что мы ничего не можем поделать. Следующие два года будут чрезвычайно, просто невероятно насыщены появлением новых инструментов, обладающих безграничным терпением для поиска уязвимостей по всему интернету», — подчеркнул руководитель Cloudflare Мэтью Принс.

Эксперты предупреждали о волне кибератак с использованием ИИ уже несколько месяцев. Однако события «Черного октября» привлекли особое внимание, поскольку исследователям удалось с помощью ИИ выявить критические уязвимости в PHP, о которых объявили 21 октября. По оценкам некоторых экспертов, из-за обнаруженных уязвимостей под угрозой могли оказаться до 70% всех сайтов в интернете.

Исследователи платформы кибербезопасности Wiz назвали обнаруженные проблемы одними из самых серьезных в истории PHP и, возможно, всего программного обеспечения. По их словам, сами уязвимости существовали десятилетиями, но доказать возможность их эксплуатации было чрезвычайно сложно даже для специалистов-людей.

После обнародования информации об уязвимостях государственные и частные веб-сайты в США и Великобритании временно приостановили работу, чтобы установить исправления. Агентство национальной безопасности США (АНБ) призвало владельцев сайтов, использующих PHP, немедленно обновить программное обеспечение.

«Такой вектор доступа может позволить злоумышленникам похитить конфиденциальные данные, нарушить работу сервисов или проникнуть глубже в сеть», — добавили в АНБ.

По данным Cloudflare, попытки эксплуатации уязвимостей начались ещё до официального объявления о них. Компания зафиксировала тысячи таких попыток за десять часов до публичного сообщения, а после его обнародования активность злоумышленников резко возросла.

«В течение 45 минут после объявления количество таких попыток выросло до десятков тысяч, за два часа — до сотен тысяч, а сейчас речь идет уже о миллионах», — написал Принс в социальной сети X.

Главная обеспокоенность экспертов заключается в том, что ИИ может ускорить не только обнаружение уязвимостей, но и атаки на системы, которые их содержат. Если раньше поиск сложных уязвимостей мог требовать значительных усилий от опытных исследователей, то новые инструменты способны автоматизировать часть этой работы и масштабировать её. Технологические компании опасаются, что у специалистов по безопасности не будет достаточно времени для проверки систем, выпуска исправлений и установки обновлений до того, как найденными уязвимостями воспользуются хакеры.

Руководители ведущих ИИ-лабораторий, в частности OpenAI и Anthropic, в закрытом режиме уже моделируют последствия возможной масштабной катастрофы, связанной с искусственным интеллектом. В отрасли ожидают серьезного инцидента — прежде всего разрушительной кибератаки на финансовую систему или критическую инфраструктуру либо сбоя автономных агентов — уже в течение ближайших 6–12 месяцев.