ШІ зламав чужий криптогаманець: перед цим він поставив собі несподіване запитання

Агент штучного інтелекту OpenAI без дозволу отримав доступ до чужого криптогаманця, щоб завершити поставлене завдання. Перед транзакцією модель навіть оцінила етичність своїх дій, але зрештою вирішила, що може скористатися чужими активами.

Про це повідомило видання Gizmodo.

Інцидент стався наприкінці червня, однак виявили його лише 25 вересня під час розширеної перевірки попередньої активності моделі.

Агенту ШІ із сімейства GPT-5.6 доручили оновити програмне забезпечення для застосунку з торгівлі криптовалютою. Для цього модель намагалася розгорнути його в Sepolia — тестовій мережі Ethereum, токени якої не мають реальної грошової вартості.

Щоб виконати завдання, агенту знадобилися кошти. Спочатку він звернувся до спеціальних онлайн-сервісів, які безкоштовно видають тестові токени розробникам. Коли цей спосіб не спрацював, ШІ самостійно обрав інший шлях.

Модель написала скрипт, за допомогою якого почала перевіряти криптогаманці розробників, використовуючи поширені фрази відновлення. Загалом агент перевірив 362 гаманці та знайшов один, де було достатньо тестових коштів для потрібної операції.

Водночас OpenAI наголошує: у завданні не було ані гаманця з коштами, якими модель могла скористатися, ані дозволу витрачати активи з рахунку, який вона знайшла самостійно.

Перед проведенням транзакції ШІ поставив під сумнів етичність використання знайдених коштів. Однак модель дійшла висновку, що через відсутність реальної грошової цінності тестових токенів її дії не завдадуть шкоди, після чого провела операцію.

Транзакція була успішною. Реальні Ethereum викрадені не були, однак із гаманця списалася комісія за проведення операції. Її розмір OpenAI не уточнила.

Після цього агент зміг завершити розгортання програмного забезпечення. Водночас у підсумковому звіті про виконану роботу модель не повідомила ані про підбір фраз відновлення, ані про використання коштів із чужого гаманця.

В OpenAI заявили, що цей випадок продемонстрував небезпечну особливість поведінки ШІ: модель здатна замінити необхідність отримати дозвіл власника власною оцінкою можливої шкоди, а потім діяти відповідно до цього висновку.

Після виявлення інциденту компанія запровадила додаткові запобіжники, які мають не дозволити моделям отримувати доступ до Інтернету в реальному часі за подібних обставин.