ИИ взломал чужой криптокошелек: перед этим он задал себе неожиданный вопрос

Агент искусственного интеллектаOpenAI без разрешения получил доступ к чужому криптокошельку, чтобы выполнить поставленную задачу. Перед транзакцией модель даже оценила этичность своих действий, но в итоге решила, что может воспользоваться чужими активами.

Об этом сообщило издание Gizmodo.

Инцидент произошел в конце июня, однако его обнаружили только 25 сентября в ходе расширенной проверки предыдущей активности модели.

Агенту ИИ из семейства GPT-5.6 поручили обновить программное обеспечение для приложения по торговле криптовалютой. Для этого модель пыталась развернуть его в Sepolia — тестовой сети Ethereum, токены которой не имеют реальной денежной стоимости.

Чтобы выполнить задание, агенту понадобились средства. Сначала он обратился к специальным онлайн-сервисам, которые бесплатно выдают тестовые токены разработчикам. Когда этот способ не сработал, ИИ самостоятельно выбрал другой путь.

Модель написала скрипт, с помощью которого начала проверять криптокошельки разработчиков, используя распространённые фразы восстановления. В общей сложности агент проверил 362 кошелька и нашел один, в котором было достаточно тестовых средств для необходимой операции.

В то же время OpenAI подчеркивает: в задании не было ни кошелька со средствами, которыми модель могла бы воспользоваться, ни разрешения тратить средства со счета, который она нашла самостоятельно.

Перед проведением транзакции ИИ усомнился в этичности использования найденных средств. Однако модель пришла к выводу, что из-за отсутствия реальной денежной ценности тестовых токенов её действия не нанесут вреда, после чего провела операцию.

Транзакция прошла успешно. Реальные Ethereum не были похищены, однако с кошелька была списана комиссия за проведение операции. Ее размер OpenAI не уточнила.

После этого агент смог завершить развертывание программного обеспечения. При этом в итоговом отчете о проделанной работе модель не сообщила ни о подборе фраз восстановления, ни об использовании средств из чужого кошелька.

В OpenAI заявили, что этот случай продемонстрировал опасную особенность поведения ИИ: модель способна заменить необходимость получения разрешения владельца собственной оценкой возможного ущерба, а затем действовать в соответствии с этим выводом.

После выявления инцидента компания ввела дополнительные меры предосторожности, которые должны не допустить, чтобы модели получали доступ к Интернету в режиме реального времени в подобных обстоятельствах.