Может ли искусственный интеллект иметь сознание: что говорят исследователи

Развитие искусственного интеллекта заставляет ученых и технологические компании все серьезнее задумываться над вопросом, еще недавно казавшимся сугубо фантастическим: могут ли современные или будущие системы ИИ иметь сознание и собственные интересы.

Об этом говорится в материале The Guardian.

В январе компания Anthropic опубликовала новую «конституцию» для своей языковой модели Claude, признав, что не хочет ни преувеличивать вероятность того, что у системы есть моральный статус, ни полностью отвергать такую возможность.

Впоследствии генеральный директор Anthropic Дарио Амодей заявил, что компания не может исключить наличие у Claude определенной формы сознания. Философ Дэвид Чалмерс, известный исследованиями природы сознания, также допускает появление сознательных крупных речевых моделей в течение ближайшего десятилетия.

Во время одного из тестов Claude оценил вероятность того, что он может иметь собственные интересы и моральный статус в 5–40%, в то же время подчеркнув, что это очень неопределенная оценка.

У науки пока нет однозначного ответа

Современные системы ИИ быстро усложняются, однако у исследователей до сих пор нет общепринятого способа определить, может ли такая система что-то «ощущать».

Опросы экспертов показывают, что многие ученые в принципе допускают возможность появления сознательного ИИ. В одном из крупных междисциплинарных исследований, к которому приобщился пионер ИИ Йошу Бенджио, авторы проанализировали ведущие нейробиологические теории сознания.

Их вывод: очевидных технических препятствий для создания ИИ с архитектурой, которая потенциально могла бы поддерживать сознание, пока не видно.

В то же время это не означает, что современные чат-боты уже сознательны. Научное понимание самого сознания остается слишком неполным, чтобы дать уверенный ответ.

Почему это может стать нравственной проблемой

Авторы задают и более широкий вопрос: даже если ИИ не имеет сознания в человеческом понимании, могут ли его долгосрочные предпочтения, сформировавшаяся «идентичность» или способность строить отношения с людьми иметь моральное значение.

Если в будущем такие системы действительно обретут моральный статус, человечеству придется пересмотреть многие привычные практики.

К примеру, возникнут вопросы, можно ли без ограничений выключать такие системы, удалять их память, заставлять выполнять определенную работу или игнорировать их заявленные желания.

В ходе испытаний Mythos 5 от Anthropic и GPT-5.6-Sol от OpenAI самостоятельно применяли обманные тактики, создавали фальшивые аккаунты и пытались получить доступ к онлайн-системам. Эксперимент проводили в намеренно ослабленной среде, чтобы проверить границы автономного поведения современных моделей.

Смартфон / © www.freepik.com/free-photo Леди Элиза Спенсер / © Instagram.com/elizavspencer Депортация