Папа Лев XIV призвал ограничить использование ИИ в военных действиях

На фоне стремительного развития технологий искусственного интеллекта, охватывающего все сферы жизни, Папа Римский Лев XIV обратился к миру с важным посланием. Его первое энциклическое письмо, названное "Magnifica humanitas: О защите человеческой личности в эпоху искусственного интеллекта", стало отражением глубокой озабоченности о будущем человечества.

В своем послании Папа Римский Лев XIV выразил четкую позицию: "Недопустимо доверять смертельные или другие необратимые решения искусственным системам". Он подчеркнул необходимость формирования нового подхода к взаимодействию с ИИ, где главной остается человеческая ответственность и контроль. Этот шаг стал отголоском предыдущего решения Папы об утверждении межведомственной комиссии для координации позиции в сфере искусственного интеллекта.

Особенно остро Папа Римский осудил использование искусственного интеллекта в военных действиях. Он упомянул об использовании ИИ во время кампании президента США Дональда Трампа в Иране, где искусственный интеллект применялся для оптимизации военных решений. Обеспокоенность Папы заключалась не только в потенциальной неточности, но и в потере человеческого контроля при принятии решений, которые могут стоить жизни.

Призыв к "четко определенной и проверяемой" цепи ответственности и "эффективному, самосознательному и ответственному человеческому контролю" над целями ударов стал центральным в его обращении. Он предупредил, что "когда решение об ударе становится автоматизированным или непрозрачным, риск отказа от ответственности возрастает".

Папа также высказался против трансгуманистических и постгуманистических идей некоторых влиятельных предпринимателей Кремниевой долины, таких как Питер Тиль и Илон Маск, утверждая, что ИИ не должен развиваться в среде, где некоторые люди считаются "менее полезными, менее желанными и менее достойными". Он предостерег, что ИИ может симулировать эмпатию, создавая иллюзию настоящих отношений и, как следствие, приводя к потере желания формировать реальные человеческие связи.

На сегодня Папа Римский требует "прозрачности и подотчетности" для всех инструментов искусственного интеллекта, используемых в общественной жизни, для обеспечения защиты прав и достоинства человека. Это послание является попыткой установить моральные и этические границы для стремительно развивающихся технологий, защищая самое главное – человеческую личность.

Это энциклическое письмо издается в период, когда мир активно обсуждает границы применения искусственного интеллекта, от этических вопросов до военных сценариев. Влияние такого послания главы Католической Церкви может иметь значительный резонанс на международном уровне, стимулируя дискуссии и возможное регулирование в области ИИ.

Рост возможностей ИИ, от автономных военных систем до генеративного искусственного интеллекта, который может создавать глубокие фейки, делает вопросы контроля и ответственности актуальнее, чем когда-либо. Заявление Папы отражает более широкую обеспокоенность относительно того, как технологический прогресс может повлиять на фундаментальные аспекты человеческого существования и общества.

«Недопустимо доверять смертельные или другие необратимые решения искусственным системам», – написал Папа Римский.

Папа отметил, что "когда решение об ударе становится автоматизированным или непрозрачным, риск отказа от ответственности возрастает".

Мысли Папы Римского подчеркивают существенный вызов современности: как сохранить человеческое достоинство и ответственность в эру доминирования искусственного интеллекта. Его призыв к разработке этических рамок и контролю за ИИ может стать основой для международных договоренностей, обеспечивая, чтобы технологии служили человечеству, а не наоборот.