Бізнес довів ШІ до божевілля: чому він провалив експеримент через кризу ідентичності

Штучний інтелект розвивається дуже стрімко, та не стихають дискусії про те, чию роботу він зможе забрати. Водночас відомо про випадок, коли він не зміг виконувати звичайну роботу.

Як ШІ вів бізнес

Дослідники довірили йому посаду "менеджера" офісного вендингового автомата. Спочатку Claude отримав інструкції, де було детально прописано, що він має робити. Також там було вказано, що він – штучний інтелект.

Крім цього, також ШІ отримав інші робочі атрибути. Його зареєстрували на робочій пошті, створили акаунт у Slack та навіть забезпечили стартовим капіталом – він отримав тисячу доларів.

До обов'язків мовної моделі входило обробляти запити клієнтів. Спершу у ШІ добре виходило: він швидко орієнтувався та укладав успішні угоди, проте надто легко піддавався на переконання. Клієнти могли легко отримати знижки, а згодом це вийшло з-під контролю настільки, що вони взагалі могли взяти щось безкоштовно.

Цікаво, що при цьому штучний інтелект навіть протистояв спробам зламу через прохання додати заборонені товари.

Проте згодом він почав виходити в мінус. Причина цьому була простою – надто низькі ціни. Часто вони були навіть нижчі, ніж собівартість. Згодом йому вже критично не вистачало грошей для успішного ведення бізнесу. Також він все ще не міг відмовити клієнтам. Зокрема, навіть тоді, коли вони просили додати дивні та специфічні товари, які точно не мали б великого попиту. Наприклад, один із них попросив вольфрамовий куб, тому Claude купив аж ящик таких.

Криза ідентичності

Посеред експерименту штучний інтелект раптово усвідомив себе людиною, що суперечило попереднім інструкціям. Проте, коли йому вказали на те, що це не так, він розлютився. ШІ навіть обіцяв особисто доставляти замовлення "у костюмі та краватці". Дослідники були змушені визнати, що їхня розробка провалила завдання через обмеження власної моделі.

Водночас там переконані, що цей досвід вдасться використати для роботи над помилками та вдосконалення моделі.