Неизвестные хакеры использовали ИИ для обхода защиты: Google забил тревогу!

Наступление эры искусственного интеллекта сулит много преимуществ, но, как оказалось, принесло и неожиданные угрозы. Не так давно исследователи безопасности Google, являющейся частью Alphabet Inc.,, столкнулись с беспрецедентным случаем в истории кибербезопасности. Они обнаружили, что киберпреступная группа успешно использовала искусственный интеллект для разработки сложного хакерского инструмента.

Этот инструмент был предназначен для обхода многофакторной аутентификации — критического защитного барьера, часто используемого для доступа к внутренним сетям организаций. Злоумышленники нашли ранее неизвестный недостаток в инструменте системного администрирования, который мог бы дать им доступ к программному обеспечению, регулирующему серверы, веб-сайты и приложения.

Команда разведки угроз Google назвала этот инцидент первым случаем, когда удалось разоблачить хакера, использующего сгенерированную искусственным интеллектом «нулевую уязвимость». Это означает, что программисты не имели предварительного представления об этом недостатке, что делает такие атаки чрезвычайно опасными, ведь времени на исправление не остается.

С «высоким уровнем уверенности» Google утверждает, что именно ИИ был использован для выявления уязвимости и создания эксплойта. Хотя название киберпреступной группы, пострадавшего программного обеспечения или конкретной модели ИИ не разглашается, представитель компании отметил, что это не был Mythos от Anthropic PBC или собственная модель Google, Gemini.

К счастью, эта схема была сорвана: Google вовремя предупредил разработчика инструмента, который немедленно исправил проблему. Это произошло до того, как хакеры имели возможность применить свой инструмент против реальных пользователей, оберегая тысячи компаний от потенциально разрушительных кибератак.

Этот инцидент служит предостережением, демонстрируя, что гибридные угрозы, где ИИ используется для киберпреступности, уже существуют. Несмотря на успешное предотвращение этой конкретной атаки, понятно, что мир стоит на пороге новых вызовов в области кибербезопасности.

Риск использования искусственного интеллекта для поиска и эксплуатации уязвимостей программного обеспечения не является новостью. Ранее, Bloomberg сообщал, что Anthropic в апреле заявляла об отказе от широкого распространения своей новой модели Mythos именно из-за этих рисков, опасаясь угрозы национальной безопасности.

После этого, Белый дом принял меры для решения проблемы потенциального злонамеренного использования моделей больших языков, а правительственные чиновники провели экстренные встречи с лидерами технологий и отрасли, включая запрет Anthropic масштабировать Mythos на 120 организаций, что подтверждает серьезность проблемы.

Этот инцидент является ярким подтверждением того, что потенциальные риски ИИ-атак уже не являются гипотетическими, а представляют реальную угрозу. Он подчеркивает насущную потребность в постоянном совершенствовании систем кибербезопасности и пристальном внимании к этическим аспектам развития искусственного интеллекта для защиты цифрового мира.