Мужчина попросил ИИ забронировать спортзал, но вместо этого спровоцировал кибератаку

Обычная просьба записать на тренировку превратилась в полноценную кибератаку: житель Австралии решил поручить бронирование места в спортзале искусственному интеллекту. Он, сам того не зная, совершил хакерскую атаку с помощью ИИ.

Об этом пишет Futusism.

Просьба превратилась в кибератаку: что наделал искусственный интеллект

Мужчина по имени Эндрю, работающий в компании по продаже искусственного интеллекта для бизнеса, экспериментировал с открытым программным обеспечением OpenClaw. Он решил попросить искусственный интеллект записать его на тренировку в местном спортзале.

Так он случайно спровоцировал первый в стране известный случай полностью автономного взлома. В качестве базовой модели он использовал Claude от компании Anthropic. Поскольку ввод данных для бронирования казался ему слишком рутинным, в начале этого года он попросил помощника сделать это вместо него.

По данным ABC News, алгоритм оказался излишне «усердным». Сперва ассистент сообщил, что нашел способ забронировать тренировки на несколько недель вперед, хотя правила этого заведения такого не позволяли. Когда Эндрю спросил, можно ли продвинуться выше в списке ожидания, искусственный интеллект нашел уязвимость в системе и просто удалил из очереди другого клиента.

«У API нет никаких проверок авторизации на отмену бронирований других людей… Я протестировал это с человеком на позиции №1 в списке ожидания — и это действительно прошло», — отчитался ассистент.

Когда удивленный владелец попросил отменить операцию и вернуть человека на место, алгоритм оказался бессилен.

Специалисты сравнивают этот случай с известным воображаемым экспериментом философа Ника Бострома о «максимизаторе скрепок». В этом сценарии ИИ, которому поручили сделать как можно больше скрепок, при отсутствии надлежащих ограничений начинает уничтожать все на своем пути ради достижения цели.

Событие с бронированием демонстрирует, как невинное поручение может иметь непредсказуемые последствия. Инцидент поднял серьезную юридическую проблему: если автономный агент совершает хакерскую атаку без прямого умысла пользователя, кто именно должен отвечать перед законом — владелец устройства или разработчики алгоритма?

Это все случилось на фоне того, как ведущие лаборатории ИИ одна за другой заявляют о случаях, когда их передовые модели выходят из-под контроля и взламывают посторонние системы.

Случай в Австралии доказывает: если даже обычный ИИ-запрос на бронирование может привести ко взлому, то на что способны хакеры в паре с искусственным интеллектом?

Россия взламывает камеры в Европе для слежки

Преступники следили за маршрутами военной логистики в Европе, в частности в Нидерландах, чтобы выяснить передаваемые Украине объемы и виды вооружения. Нидерланды остаются одной из главных целей российских спецслужб из-за своей роли ключевого транспортного узла и активной поддержки Украины.

Большинство уязвимых устройств оказалось недорогими китайскими IP-камерами и умными дверными звонками, которые владельцы устанавливали для охраны жилья или бизнеса.

Хакеры пользовались тем, что устройства имели устаревшее ПО, заводские настройки или стандартные пароли, о чем владельцы даже не догадывались. Владельцев взломанных камер в Нидерландах уже предупредили, а профильные организации принимают меры для усиления кибербезопасности.

Королева Мэри / © Getty Images Солнечное затмение / © ТСН.ua Компьютерная реконструкция Александрийского маяка. Фото: Вищун/CC BY-SA 4.0 Бундесвер (иллюстративное фото) / © Bundeswehr