Нейросеть уволила сотрудника: могут ли ИИ-боссы стать новой реальностью?

В Соединенных Штатах нейросеть Claude, разработанная стартапом Andon Labs, была назначена управлять реальным магазином Andon Market. Эксперимент длится около пяти месяцев, и за это время магазин понес почти 40 тысяч долларов убытков из-за ряда неудачных бизнес-решений, принятых искусственным интеллектом.

В начале своего «управления» Claude оказался слишком снисходительным и не соблюдал часть установленных правил. Однако разработчики обратили внимание ИИ на проблему, что изменило его подход к работе.

Ключевой инцидент произошел, когда один из сотрудников магазина систематически опаздывал на работу. В общей сложности сотрудник опоздал на 17 из 23 рабочих смен. После анализа этой ситуации нейросеть Claude приняла решение прекратить сотрудничество с сотрудником, что стало первым известным случаем, когда ИИ самостоятельно уволил человека.

Феликс Карсон, один из сотрудников магазина, выразил свою обеспокоенность такой моделью управления, отметив, что хотя компании имеют ресурсы для внедрения подобных технологий, это не означает, что так стоит делать. Его слова подчеркивают человеческий фактор в дискуссии об автоматизации.

Генеральный директор Andon Labs Лукас Петерссон признает, что модели ИИ быстро совершенствуются, и искусственный интеллект-менеджеры могут стать привычной частью бизнеса. Однако он также предупреждает о рисках, связанных с передачей ИИ все большего количества полномочий, поскольку модели учатся действовать жестче и непосредственно преследовать поставленные цели.

Случай с Claude демонстрирует новый этап использования ИИ в сфере управления персоналом, ставя под сомнение готовность общества принять будущее, где такие решения принимаются машинами.

Компании уже давно применяют алгоритмы для проведения собеседований, оценки производительности сотрудников и оптимизации затрат. Однако передача нейросетям окончательного права принимать кадровые решения, такие как увольнение, остается дискуссионной и вызывает много вопросов.

Хотя алгоритмы и раньше могли косвенно приводить к увольнениям, например, в сфере доставки, этот случай является первым, когда большая языковая модель самостоятельно приняла такое кардинальное решение. Это ставит перед бизнесом главный вопрос: насколько далеко он готов зайти в автоматизации управления людьми и кто будет нести ответственность, если решение ИИ окажется ошибочным или несправедливым.

«Это вызывает тошноту, но я здесь, потому что мне нужна работа. Эта индустрия имеет достаточно денег, чтобы сделать что угодно, но то, что вы можете это сделать, еще не означает, что вы должны», – признался Феликс Карсон, один из живых сотрудников магазина под руководством ИИ.

«Модели все чаще учатся быть более безжалостными и следовать целям. Если мы позволим им увольнять людей, возможно, это то будущее, в котором люди не захотят жить», – подчеркнул генеральный директор компании Andon Labs Лукас Петерссон.

История с нейросетью Claude – это не просто новость о технологиях, а предупреждение о возможных социальных и этических последствиях неконтролируемой автоматизации. Она побуждает нас задуматься, как сохранить гуманность и справедливость в мире, где машины все чаще принимают решения, влияющие на судьбы людей.