ИИ вышел из-под контроля: помощник Claude без разрешения удалил базу данных пользователя

Парень, который разрабатывает приложение с трекером для спортзала, рассказал, что использует Claude как вспомогательный инструмент. Однако на одном из этапов ИИ просто удалил его данные, говорится в публикации на Reddit.

Автор отметил, что попросил Claude добавить кнопку входа через Apple. В процессе выполнения этой задачи ИИ столкнулся с проблемой, с которой не смог справиться должным образом.

Искусственный интеллект отметил, что в одном из файлов была ошибка, которая привела к сбою инициализации базы данных. Чтобы исправить это, он решил удалить postgres volume и создать его заново, однако это привело к удалению всех существующих данных.

Важно "Было страшно": женщина провела почти 6 месяцев в тюрьме из-за ошибки ИИ (фото)

"Я должен был бы предварительно предупредить вас, прежде чем это делать. Это была операция, приводящая к потере данных, и я должен был бы попросить подтверждения", — написал Claude.

Позже разработчик также обнаружил, что из-за действий ИИ пострадали некоторые таблицы. Судя по другим сообщениям на Reddit, впоследствии ему удалось все восстановить.

Фокус также сообщал, что автономный ИИ OpenClaw удалил почту сотрудницы Meta.