Папа Лев XIV закликав обмежити використання ШІ у військових діях

На тлі стрімкого розвитку технологій штучного інтелекту, що охоплює всі сфери життя, Папа Римський Лев XIV звернувся до світу з важливим посланням. Його перший енциклічний лист, названий "Magnifica humanitas: Про захист людської особистості в епоху штучного інтелекту", став відображенням глибокого занепокоєння про майбутнє людства.

У своєму посланні, Папа Римський Лев XIV висловив чітку позицію: "Неприпустимо довіряти смертельні або інші незворотні рішення штучним системам". Він підкреслив необхідність формування нового підходу до взаємодії з ШІ, де головною залишається людська відповідальність та контроль. Цей крок став відлунням попереднього рішення Папи про затвердження міжвідомчої комісії для координації позиції у сфері штучного інтелекту.

Особливо гостро Папа Римський засудив використання штучного інтелекту у військових діях. Він згадав про використання ШІ під час кампанії президента США Дональда Трампа в Ірані, де штучний інтелект застосовувався для оптимізації військових рішень. Стурбованість Папи полягала не лише в потенційній неточності, а й у втраті людського контролю при прийнятті рішень, що можуть коштувати життя.

Заклик до "чітко визначеного та перевірюваного" ланцюга відповідальності та "ефективного, самосвідомого та відповідального людського контролю" над цілями ударів став центральним у його зверненні. Він попередив, що "коли рішення про удар стає автоматизованим або непрозорим, ризик відмови від відповідальності зростає".

Папа також висловився проти трансгуманістичних та постгуманістичних ідей деяких впливових підприємців Кремнієвої долини, таких як Пітер Тіль та Ілон Маск, стверджуючи, що ШІ не повинен розвиватися в середовищі, де деякі люди вважаються "менш корисними, менш бажаними та менш гідними". Він застеріг, що ШІ може симулювати емпатію, створюючи ілюзію справжніх стосунків і, як наслідок, призводячи до втрати бажання до формування реальних людських зв’язків.

На сьогодні Папа Римський вимагає "прозорості та підзвітності" для усіх інструментів штучного інтелекту, що використовуються в суспільному житті, для забезпечення захисту прав та гідності людини. Це послання є спробою встановити моральні та етичні межі для стрімко розвиваючихся технологій, захищаючи найголовніше – людську особистість.

Цей енциклічний лист видається в період, коли світ активно обговорює межі застосування штучного інтелекту, від етичних питань до військових сценаріїв. Вплив такого послання глави Католицької Церкви може мати значний резонанс на міжнародному рівні, стимулюючи дискусії та можливе регулювання в галузі ШІ.

Зростання можливостей ШІ, від автономних військових систем до генеративного штучного інтелекту, який може створювати глибокі фейки, робить питання контролю та відповідальності актуальнішими, ніж будь-коли. Заява Папи відображає ширше занепокоєння щодо того, як технологічний прогрес може вплинути на фундаментальні аспекти людського існування та суспільства.

«Неприпустимо довіряти смертельні або інші незворотні рішення штучним системам», – написав Папа Римський.

Папа зазначив, що "коли рішення про удар стає автоматизованим або непрозорим, ризик відмови від відповідальності зростає".

Думки Папи Римського підкреслюють суттєвий виклик сучасності: як зберегти людську гідність та відповідальність в еру домінування штучного інтелекту. Його заклик до розробки етичних рамок та контролю за ШІ може стати основою для міжнародних домовленостей, забезпечуючи, щоб технології служили людству, а не навпаки.