Папа Лев XIV призывает к "разоружению" ИИ: что ждет ООН в Женеве?

История этой инициативы началась с первой крупной работы Папы Льва XIV – энциклики Magnifica Humanitas, где он впервые изложил свои мысли по защите человеческой личности в эпоху искусственного интеллекта. В мае он уже подчеркивал, что машины — это лишь инструменты, а не личности, предостерегая от наделения систем ИИ правами или юридическим статусом.

Лев XIV выбрал свое имя, чтобы противостоять развитию технологий, подобно тому, как Папа Лев XIII возглавлял церковь на передовой промышленной революции. Его мотивация заключалась в глубоком убеждении, что будущее искусственного интеллекта не предопределено, ведь эта технология создана людьми, и именно от их выбора зависит ее дальнейший путь.

В пятницу, 30 октября, этот призыв прозвучал с новой силой, когда Папа Лев XIV обратился к государствам-членам ООН. Он заявил, что ИИ следует "разоружить", призвав их предпринять конкретные шаги для запрета летального автономного оружия во время встречи в Женеве в следующем месяце.

Понтифик подчеркнул, что решения, касающиеся человеческой жизни, свободы и применения силы, должны всегда оставаться под эффективным, информированным и ответственным контролем человека. Он предупредил, что предоставление ИИ прав может скрыть человеческую ответственность, оставив тех, кто пострадал от вреда, один на один с безликой сущностью.

В конце своего выступления Папа Лев XIV призвал международные институты защищать общее благо от рисков, связанных с искусственным интеллектом. Для этого, по его мнению, необходимы общие стандарты, независимый надзор и четкие механизмы подотчетности, которые позволят проверять и оспаривать решения по разработке и использованию ИИ.

Встреча в Женеве, запланированная на ноябрь, будет иметь решающее значение, ведь государства снова соберутся, чтобы решить, начинать ли формальные переговоры о договоре по летальному автономному оружию. Речь идет о системах, которые самостоятельно выбирают цели и наносят поражение без решения человека, как сообщает Human Rights Watch.

Этот вопрос уже имеет длительную историю: Генассамблея ООН три года подряд принимает резолюцию по этому вопросу. В декабре 2024 года за нее проголосовали 166 государств против трех, а в декабре 2025-го — 164 против шести. Более 120 стран поддерживают принятие такого договора, что свидетельствует о значительном международном консенсусе, как отмечает блог Международного комитета Красного Креста.

"Машины – это инструменты, а не личности", – подчеркнул Папа Лев XIV, обращаясь к государствам-членам ООН, как передает The Verge.

"Решения, касающиеся человеческой жизни, свободы и применения силы, всегда должны оставаться предметом эффективного, информированного и ответственного человеческого контроля", – заявил понтифик в своем обращении.

Призыв Папы Льва XIV является не просто моральным обращением, но и важным шагом к формированию будущей глобальной политики в отношении искусственного интеллекта. От выбора международного сообщества в Женеве будет зависеть, сможет ли человечество сохранить контроль над технологиями, которые оно создает, обеспечивая безопасность и ответственность в быстро меняющемся мире.