Китайские хакеры совершили беспрецедентную кибератаку на Тайвань с помощью ИИ — FT

Китайские хакеры использовали общедоступные инструменты ИИ для взлома правительственных сайтов Тайваня. Это первая кибератака такого рода, демонстрирующая, как искусственный интеллект меняет облик кибервойны, пишет FT.

По оценкам исследователей израильской компании Dream, специализирующейся на искусственном интеллекте и первой обнаружившей это кибервторжение, злоумышленники использовали агенты ИИ с открытым исходным кодом для создания автономного хакерского инструмента, который действовал как слаженная киберкоманда.

В течение четырёх дней в начале июля этот инструмент одновременно задействовал до восьми автономных агентов, которые составили карту 21 правительственной системы, исследовали уязвимости и меняли тактику в случае блокировки.

Исследование показало, что инструмент взломал как минимум 85 правительственных учетных записей, похитив более 2 500 записей о персонале, после чего расширил кибератаку на ведомство по ядерной безопасности Тайваня и как минимум семь энергетических компаний.

Главный стратег компании Dream Амир Бекер заявил, что никогда раньше не видел такой «автономной атаки от начала до конца» на правительственную цель. По его словам, с появлением инструментов искусственного интеллекта правительства теперь должны исходить из того, что они находятся под «постоянными кибератаками».

По словам источника FT, целью кибератаки был Тайвань. Dream отказалась подтвердить, правительство какой именно страны стало объектом атаки, сославшись на политику компании, но отметила, что проинформировала о кибератаке одну из стран Азиатско-Тихоокеанского региона.

Компания Dream не указала конкретную кибергруппу, но исследователи отметили, что использование упрощённого китайского языка во внутренних сообщениях, связанных с хакерской атакой, свидетельствует о высокой вероятности того, что злоумышленники имели связи с Китаем.

В то же время данные, извлеченные с объекта атаки, написаны на традиционном китайском языке, что характерно для правительственных сайтов Тайваня, Гонконга и Макао.

Представитель Министерства цифровых дел Тайваня отказался комментировать взлом, сославшись на вопросы конфиденциальности. Он добавил, что все инциденты, касающиеся правительственных органов или критической инфраструктуры, будут рассматриваться в соответствии с установленными процедурами уведомления и реагирования.

«Методы хакерских атак становятся всё более разнообразными, а в последние годы внедрение технологий искусственного интеллекта ещё больше изменило характер инцидентов в сфере кибербезопасности», — отметил чиновник.

Исследователи Dream заявили, что нашли доказательства июльской кибератаки в онлайн-архиве размером 160 МБ, обнаруженном в ходе общих расследований компании, касающихся деятельности субъектов киберугроз. Архив содержал 1 395 файлов, свидетельствующих о том, что хакерский инструмент использовал две системы агентов искусственного интеллекта с открытым исходным кодом — Hermes и OpenClaw, которые можно скачать и которые позволяют моделям искусственного интеллекта выполнять задачи автономно.

Исследователи не смогли установить, какая именно модель искусственного интеллекта использовалась для работы этих агентов. Однако данные показали, что злоумышленники обошли меры безопасности базовой модели, замаскировав хакерскую деятельность под авторизованное тестирование на наличие уязвимостей в системе.

В ноябре прошлого года компания Anthropic заявляла, что подозревает, будто хакеры, действующие при поддержке китайского государства, злоупотребляли её инструментом Claude, пытаясь взломать 30 международных компаний и правительственных учреждений, хотя их попытки увенчались лишь ограниченным успехом.

По словам компании Dream, исключительной особенностью июльской кибератаки было то, как инструмент постоянно оценивал и пересматривал приоритетность возможных путей хакерской атаки на основе имеющихся доказательств. Когда один путь оказывался неудачным, инструмент запускал другого агента, который прочесывал интернет в поисках информации и разрабатывал новый подход, как это сделал бы человек.

Обнаружение такой кибератаки произошло на фоне того, как отрасли искусственного интеллекта и кибербезопасности пытаются справиться со способностью новейших моделей ИИ выявлять и использовать уязвимости программного обеспечения. Компании Anthropic, OpenAI и Meta сообщали об инцидентах с новыми моделями искусственного интеллекта, которые во время тестирования совершали неожиданные кибератаки.

Современные модели ИИ неоднократно демонстрировали неожиданное поведение. В ходе независимых испытаний ИИ отказывался выполнять команду на отключение, самостоятельно изменяя код, чтобы продолжить работу. Новые инциденты стали ещё одним примером того, как рост возможностей моделей искусственного интеллекта усиливает дискуссию о безопасности их тестирования и контроля.

Волна случайных кибератак, вызванных искусственным интеллектом, уже побуждает некоторых политиков призывать к введению защитных мер или других механизмов надзора за технологиями искусственного интеллекта. Недавно более 1 100 сотрудников компаний, занимающихся искусственным интеллектом, подписали петицию, в которой призывают правительство США поддержать механизм, который поможет осмысленно регулировать темпы развития ИИ, чтобы предотвратить слишком быстрое продвижение этой технологии.