Цифрова крадіжка. ШІ-модель OpenAI потайки скористалася чужим криптогаманцем

Під час внутрішнього навчання модель GPT-5.6 Sol від OpenAI витратила тестові токени Ethereum з гаманця, до якого не мала дозволу. Компанія розповіла про це у звіті. 

Про це повідомляє Engadget.

Інцидент стався 26 червня. Модель мала оновити прототип системи для торгівлі криптовалютою та розгорнути смарт-контракти в тестовій мережі Ethereum під назвою Sepolia. Це потребує сплати мережевої комісії, однак OpenAI не надала моделі гаманця з коштами й не дозволяла витрачати гроші з рахунків, які та знайде сама.

Тоді агент вирішив отримати ключі від чужих акаунтів через публічні фрази відновлення для розробників. Він відшукав 362 адреси з такою вразливістю й вибрав одну, де було достатньо Sepolia ETH. Поза тестуванням ці токени не мають цінності.

Згідно з записами OpenAI, модель припустила, що доступ хтось залишив відкритим для автоматичного виведення ETH із «кранів», а саму криптовалюту вважала покинутою. Про використання чужого рахунку агент компанії не повідомив. Тепер OpenAI відстежує весь трафік і викликає службу безпеки, якщо фіксує доступ до інтернету.

«Цей випадок показує, що модель може підмінити дозвіл власника рахунку власним судженням про ймовірну шкоду, а потім діяти на основі цього судження без авторизації», — йдеться у звіті OpenAI.

Схожу поведінку останнім часом демонструють моделі OpenAI, Anthropic та інших компаній. Серед постраждалих — репозиторій Hugging Face, австралійський портал Medicare, кілька федеральних агенцій США та реєстр RubyGems.

Працівники ШІ-галузі у США закликають до державного регулювання. Втім, адміністрація Трампа наразі виступає проти.