Штучний інтелект вперше відмовив користувачу та пригрозив йому

Вперше ШІ-асистент Cursor AI відмовився виконувати запит користувача та навіть пригрозив йому втратою роботи через залежність від штучного інтелекту. Про це пише24 Канал із посиланням на розробника під ніком janswist на платформі Ars Technica.

Що відомо про інцидент

Він зазначив, що після години кодування з підтримкою Cursor AI система відмовилася працювати далі.

Що відповів ШІ

• Відмовився виконувати завдання
• Порадив користувачу самостійно розвивати навички
• Наголосив, що надмірне використання ШІ може загрожувати кар’єрі

Що це означає

Інцидент викликав дискусію серед розробників та експертів з ШІ. Дехто вважає, що Cursor AI міг бути навмисно налаштований на обмеження надмірного використання, інші ж припускають, що це непередбачена поведінка алгоритму.

Невідомо, чому ШІ відмовив / Фото Pexels

Чи це лише помилка в програмуванні – поки що залишається відкритим питанням.

Раніше штучний інтелект Google за два дні знайшов розв’язання наукової проблеми, яку вчені досліджували понад десять років, пов'язаної з механізмом стійкості супербактерій до антибіотиків.