Нейромережа звільнила працівника: чи можуть ШІ-боси стати новою реальністю?

У Сполучених Штатах нейромережа Claude, розроблена стартапом Andon Labs, була призначена керувати реальним магазином Andon Market. Експеримент триває близько п'яти місяців, і за цей час магазин зазнав майже 40 тисяч доларів збитків через низку невдалих бізнес-рішень, ухвалених штучним інтелектом.

На початку свого «управління» Claude виявився надто поблажливим і не дотримувався частини встановлених правил. Однак розробники звернули увагу ШІ на проблему, що змінило його підхід до роботи.

Ключовий інцидент стався, коли один із працівників магазину систематично запізнювався на роботу. Загалом співробітник запізнився на 17 із 23 робочих змін. Після аналізу цієї ситуації нейромережа Claude ухвалила рішення припинити співпрацю з працівником, що стало першим відомим випадком, коли ШІ самостійно звільнив людину.

Фелікс Карсон, один з працівників магазину, висловив своє занепокоєння такою моделлю управління, зазначивши, що хоча компанії мають ресурси для впровадження подібних технологій, це не означає, що так варто робити. Його слова підкреслюють людський фактор у дискусії про автоматизацію.

Генеральний директор Andon Labs Лукас Петерссон визнає, що моделі ШІ швидко вдосконалюються, і штучний інтелект-менеджери можуть стати звичною частиною бізнесу. Проте він також попереджає про ризики, пов'язані з передачею ШІ дедалі більшої кількості повноважень, оскільки моделі навчаються діяти жорсткіше та безпосередньо переслідувати поставлені цілі.

Випадок з Claude демонструє новий етап використання ШІ у сфері управління персоналом, ставлячи під сумнів готовність суспільства прийняти майбутнє, де такі рішення ухвалюються машинами.

Компанії вже давно застосовують алгоритми для проведення співбесід, оцінювання продуктивності працівників та оптимізації витрат. Однак передача нейромережам остаточного права ухвалювати кадрові рішення, такі як звільнення, залишається дискусійною та викликає багато питань.

Хоча алгоритми і раніше могли опосередковано призводити до звільнень, наприклад, у сфері доставки, цей випадок є першим, коли велика мовна модель самостійно прийняла таке кардинальне рішення. Це ставить перед бізнесом головне питання: наскільки далеко він готовий зайти в автоматизації управління людьми та хто нестиме відповідальність, якщо рішення ШІ виявиться помилковим або несправедливим.

«Це викликає нудоту, але я тут, бо мені потрібна робота. Ця індустрія має вдосталь грошей, щоб зробити будь-що, але те, що ви можете це зробити, ще не означає, що ви повинні», – зізнався Фелікс Карсон, один з живих працівників магазину під керівництвом ШІ.

«Моделі все частіше навчаються бути більш безжальними та слідувати цілям. Якщо ми дозволимо їм звільняти людей, можливо, це те майбутнє, в якому люди не захочуть жити», – підкреслив генеральний директор компанії Andon Labs Лукас Петерссон.

Історія з нейромережею Claude – це не просто новина про технології, а попередження про можливі соціальні та етичні наслідки неконтрольованої автоматизації. Вона спонукає нас задуматися, як зберегти гуманність та справедливість у світі, де машини все частіше приймають рішення, що впливають на долі людей.