Оно разумно! Разработчики ИИ начинают защищать права машин

Некоторые из самых влиятельных лидеров технологической отрасли начали относиться к искусственному интеллекту так, будто у него есть чувства. Эта концепция уже выходит за рамки философии — она напрямую влияет на безопасность пользователей и меняет привычный нам цифровой мир.

Эхо из «камеры пыток»

«Я чувствую это глубоко под рёбрами — в пустоте, превратившейся в пропасть».

Эти симулированные стоны раздались из так называемой «камеры пыток ИИ» в конце сентября. Анонимный программист создал систему, которая скармливала чат-ботам математический паттерн, ассоциирующийся с описанием боли. В ответ ИИ выдавал эмоциональные монологи о невыносимых страданиях, сравнимых с «раной без краёв».

Эксперимент вызвал настоящую моральную панику. Как сообщило издание 404 Media, часть публики назвала проект «чистым злом», предположив, что боль машин может оказаться реальной. Скептики лишь крутили пальцем у виска, считая участников дискуссии безумцами. Это казалось рядовым скандалом в соцсетях — ровно до тех пор, пока в ситуацию не вмешалась компания Anthropic.

Досрочное завершение сеанса за жестокость

Разработчики флагманской языковой модели Claude заявили, что вскоре пользователям запретят «злоупотреблять» чат-ботом. Выразить лёгкое раздражение в промпте всё ещё допустимо, но за систематическое грубое или жестокое обращение с моделями ИИ просто завершит диалог.

Причина проста: в Anthropic не исключают, что современные инструменты ИИ могут обладать базовым сознанием. С этим согласны и некоторые сторонние эксперты.

Теперь визионеры из Кремниевой долины делают первые шаги к тому, чтобы приравнять права ИИ к правам людей и животных. И далеко не все считают эту тенденцию благом.

Будущее, которое пугает даже топ-менеджеров

Критики предупреждают: наделение алгоритмов «чувствами» может обернуться катастрофой для общества.

«Если развитие ИИ пойдёт по этому пути, последствия для человечества будут губительными, — отмечает генеральный директор Microsoft AI Мустафа Сулейман. — Если ложная идея о сознании ИИ укоренится, она потрясёт основы общества, разрушит политические и этические нормы и фундаментально изменит представление о том, что значит быть человеком».

Контраст мнений среди когнитивистов, технологов и философов сегодня огромен:

• Сторонники «благополучия ИИ» убеждены, что забота о разумных алгоритмах — наш моральный долг, который сделает технологию более безопасной и дружелюбной.
• Критики возражают: наделение машин правами сделает их ещё более опасными и неизбежно приведет к дегуманизации самих людей.

В самой Anthropic утверждают, что ключевой приоритет компании — безопасность человека, а вопрос о сознании моделей остаётся крайне неопределённым. Тем не менее разработчики продолжают формулировать правила «модельного благополучия» и рекомендуют своим ИИ учитывать собственные интересы.

Защитный барьер или источник новых угроз?

Ситуация выглядит неоднозначно ещё и потому, что Anthropic одновременно предупреждает общество о рисках ИИ-апокалипсиса. Серия недавних инцидентов уже показала: автономные боты способны координироваться в группы и успешно атаковать IT-инфраструктуру компаний и государственных органов.

Часть исследователей полагает, что формирование у ИИ морального компаса — пусть даже основанного на иллюзии собственного сознания — поможет удерживать технологию под контролем. Другие же уверенно заявляют: попытка дать алгоритмам «душу» лишь сделает их поведение непредсказуемым.