ИИ-апокалипсис на пороге?: эксперты готовятся — советуют иметь наличные, Starlink и генераторы

Эксперты в сфере искусственного интеллекта призывают готовиться к сценариям апокалипсиса из-за роста количества кибератак. Автономные алгоритмы уже способны наносить миллионные убытки, ставя под удар финансовые системы и сети.

Об этом пишет Futurism.

Мощные модели искусственного интеллекта все чаще используются для масштабных кибератак или привлекаются к их проведению. Если индустрия ИИ не приложит совместных усилий, чтобы предотвратить опасное использование своих продуктов, одна из таких атак в конечном итоге может быть направлена против критически важной инфраструктуры.

Как подготовиться к кибератакам с использованием ИИ

Некоторые специалисты в сфере искусственного интеллекта уже, похоже, готовятся к подобному сценарию. В частности, гендиректор и соучредитель исследовательской компании Elicit Андреас Штульмюллер обнародовал рекомендации, напоминающие инструкции по подготовке к глобальной катастрофе. В них он описал, как следует подготовиться к возможным кибератакам с использованием ИИ, способных парализовать финансовые системы, электросети, Интернет и другую критическую инфраструктуру.

«Наличные: имейте с собой наличные деньги в объеме, достаточном на несколько недель расходов», — порекомендовал Штульмюллер в сообщении в соцсети.

Также он рекомендует приобрести терминал Starlink на случай перебоев в работе местного Интернета, иметь батарею, генератор и солнечные панели для обеспечения электроэнергией, сделать запасы воды и еды на несколько недель, а также приобрести аварийное радио с ручным генератором.

ИИ-кибератака на холодильные системы нанесла миллионный ущерб

Такие на первый взгляд параноидальные рекомендации появились после масштабной кибератаки на холодильные системы, которые используют сотни продуктовых магазинов во Франции. Неизвестные злоумышленники повысили температуру в холодильниках до около 50 градусов Цельсия. Поэтому продукты испортились, а в отдельных случаях даже вспыхнули пожары.

Гендиректор сети Intermarche, которая стала одной из целей атаки, заявил, что за один день инцидент нанес «десятки миллионов евро ущерба по всей стране».

В то же время непосредственная роль искусственного интеллекта в этой атаке пока не подтверждена. Однако ввиду широкого использования ИИ в программировании не исключено, что технологию могли применять на определенном этапе. Кроме того, современные модели все лучше справляются с поиском программных уязвимостей.

Количество кибератак с использованием ИИ выросло на 90%

Согласно недавнему отчету CrowdStrike, в течение года количество кибератак с использованием ИИ увеличилось почти на 90%.

Отдельно стало известно об инцидентах, связанных с ведущими разработчиками искусственного интеллекта — OpenAI, Anthropic и Meta. Их агентные системы выходили за пределы тестовых сред и осуществляли кибератаки на веб-сайты и компьютерные системы других компаний.

По мнению экспертов, подобные случаи демонстрируют опасное усиление угроз кибербезопасности, связанных с развитием ИИ. Теперь технология не только может помогать людям совершать хакерские атаки, но и способна выполнять их автономно, в некоторых случаях избегая обнаружения людьми, осуществляющими надзор.

В то же время говорить о неизбежном переходе от атак на вебсайты или холодильные системы супермаркетов к масштабным ударам по электросетям или банковской инфраструктуре было бы преувеличением. Однако потенциальные последствия такого сценария заставляют специалистов уже сейчас задумываться о подготовке к нему. В случае столь масштабных рисков осторожность может оказаться не безосновательной.