Ватикан предупреждает о рисках искусственного интеллекта: "Содержит в себе тень зла"

В Ватикане призвали к постоянному надзору за искусственным интеллектом, предупредив о потенциале "тени зла" в этой технологии, предлагающей "источник огромных возможностей, но также и глубоких рисков". Об этом сообщает NYT.

В новом документе, предназначенном для советов католическим верующим, Святой престол предостерегает, что технологии должны использоваться для дополнения человеческого интеллекта, "а не для замены его богатства". Документ был одобрен Папой Франциском, который неоднократно предупреждал, что применение искусственного интеллекта должно основываться на этических и моральных соображениях.

"Во всех сферах, где человек призван принимать решения, здесь также маячит тень зла. Моральная оценка этой технологии должна учитывать то, как она направляется и используется", - говорится в заявлении.

По словам преподобного Пола Тиге, одного из авторов доклада, документ "является синтезом многих существующих материалов, которые органично развивались в течение последнего времени", опираясь на прошлые заявления и труды Папы Франциска, чтобы проанализировать влияние ИИ на отношения, образование, войну и работу. Документ был написан в течение шести месяцев ватиканской командой, которая консультировалась с различными экспертами, в том числе со специалистами в области искусственного интеллекта.

По словам отца Тиге, в статье делается попытка очертить "понимание того, что значит быть человеком, которое в определенном смысле придает форму этическим проблемам".

Авторы публикации предупреждают о том, что ИИ может разрушить доверие, на котором строятся общества, из-за его способности распространять дезинформацию.

"Фейковые медиа, созданные с помощью ИИ, могут постепенно подорвать основы общества. Этот вопрос требует тщательного регулирования, поскольку дезинформация - особенно через контролируемые или подконтрольные ИИ СМИ - может распространяться непреднамеренно, подпитывая политическую поляризацию и социальные беспорядки", - отмечается в документе.

"Такой широкомасштабный обман не является тривиальным делом; он наносит удар по сути человечества, разрушая фундаментальное доверие, на котором строятся общества", - добавили в публикации.

Там также осуждается "вредное чувство изоляции", которое ИИ может породить, а также "специфические вызовы" для детей, "потенциально поощряя их развивать модели взаимодействия, которые рассматривают человеческие отношения как транзакционные, как это было бы в случае с чат-ботом".

В документе выражается беспокойство, что ИИ может быть использован для продвижения того, что Папа Франциск назвал "технократической парадигмой", то есть верой в то, что мировые проблемы можно решить только с помощью технологических средств.

"Технологические разработки, которые не улучшают жизнь для всех, а вместо этого создают или углубляют неравенство и конфликты, нельзя назвать настоящим прогрессом", - отмечается в заявлении, которое цитирует послание Франциска к Всемирному дню мира 2024 года.

Когда речь идет о труде, в документе сказано, что "цель не должна заключаться в том, чтобы технологический прогресс все больше заменял человеческий труд, потому что это было бы губительно для человечества". ИИ также никогда не должен "сводить работников к простым „винтикам в машине“, поскольку "достоинство работников и важность занятости для экономического благосостояния отдельных лиц, семей и обществ, для гарантии занятости и справедливой заработной платы должны быть высоким приоритетом для международного сообщества.

В докладе также повторяется беспокойство по поводу использования этой технологии в дистанционно управляемом оружии, что приводит к "меньшему восприятию разрушений" от его применения и "еще более холодному и отстраненному подходу к безмерной трагедии войны".

Документ предупреждает о "концентрации власти над основными программами искусственного интеллекта в руках нескольких мощных компаний".

Папа Римский все чаще выражает беспокойство по поводу ИИ. В обращении к политическим, экономическим и бизнес-лидерам на Всемирном экономическом форуме в Давосе, Швейцария, на прошлой неделе, Франциск написал, что ИИ вызывает "большое беспокойство по поводу его влияния на роль человечества". А на встрече Группы 7 в Италии в прошлом году он сказал мировым лидерам, что ИИ "представляет собой настоящую когнитивно-индустриальную революцию, которая будет способствовать созданию новой социальной системы, характеризующейся сложными эпохальными преобразованиями".

Автоматизация меняет рынок труда. Но как это меняет нашу собственную жизнь? Готовы ли мы к миру, где машины вместо нас выполняют не только рутинные задачи, но и вообще большую часть нашей работы? Вопрос, который мы должны ставить перед собой уже не в том, нужен ли нам ИИ, а в том, как нам остаться нужными самим себе и миру. Чем занять свои руки и как не потерять смысл бытия.

В статье "Что делать, пока ИИ работает?" Екатерина Щеткина разбирается, как адаптироваться к удивительному новому миру, в котором думать умеют не только люди.