"Хуже ядерного оружия": Ватикан предупредил мир об угрозе апокалипсиса из-за искусственного интеллекта

Католическая церковь начала предупреждать об экзистенциальной опасности от новейших технологий задолго до громких заявлений американских корпораций. Глава Святого Престола Лев XIV сделал вопрос о безопасности компьютерных алгоритмов одной из главных тем своего понтификата.

О серьезных опасениях религиозных лидеров относительно будущего планеты пишет Reuters.

Угроза для международного мира

Понтифик признает огромную пользу инноваций для общества, но в то же время указывает на появление беспрецедентных угроз глобальной стабильности. Он призвал мировых лидеров проявить мудрость в вопросе жесткого международного контроля над сверхмощными нейросетями.

«Трансформационная сила искусственного интеллекта может привести к масштабным социальным изменениям, которые очень трудно предсказать», — рассказал ведущий советник Ватикана Паоло Бенанти.

Еще в своем майском обращении Папа Лев отмечал опасность распространения дезинформации и разжигания новых конфликтов с помощью алгоритмов. Дипломаты Ватикана уверены, что ни одна страна мира не способна самостоятельно справиться с этим технологическим вызовом.

«Здесь действительно на кону стоит будущее человечества, поэтому нам нужны общие правила для управления этим явлением», — подчеркнул кардинал Пьетро Паролин.

Автономное оружие и последствия

Особую обеспокоенность у представителей церкви вызывает стремительная разработка автономных систем вооружения, которые уже активно используются на поле боя. Священнослужители сравнивают современные боевые дроны с искусственным умом с опасными минами, которые без разбора уничтожают любые цели.

«Если ядерное оружие может физически уничтожить человечество, то манипуляции с генеративным контентом способны разрушить способность людей оставаться единым обществом», — пояснил Паоло Бенанти.

В отличие от ядерных боеголовок, которые можно безопасно хранить на складах и тщательно считать, компьютерные программы абсолютно невидимы для контроля. Именно поэтому американские епископы недавно создали специальную рабочую группу для совместного противодействия существующим угрозам современных систем.

«Диалог сосредоточен на путях сохранения искусственного интеллекта на службе человечеству и необходимости преодоления реальных опасностей», — говорится в официальном заявлении духовенства.

Тревожные прогнозы и реальные риски

Приверженцы теорий заговоров считают, что стремительное развитие компьютерных систем было предсказано еще пять столетий назад. В частности, известное пророчество французского астролога Нострадамуса о загадочном «одиноком уме» некоторые трактуют как появление совершенно независимого машинного интеллекта.

«Разработчики сверхмощного искусственного интеллекта просто играют нашими жизнями», — заявил бывший работник компании Anthropic Джейкоб Коксон после своего громкого увольнения.

Беспокойство экспертов не безосновательно, ведь недавно американская компания Anthropic обнаружила попытки использования своей нейросети для разработки опасного биологического оружия. Современную технологию также пытались использовать для проведения масштабных кибершпионских кампаний и создания вредоносного программного обеспечения.

«Ту же информацию, которую можно использовать для разработки биологического оружия, можно также использовать для создания лекарств», — отмечают представители компании-разработчика.