«Двойная ловушка» недоверия: Харари назвал главный вызов для лидеров эпохи ИИ

Израильский историк и футуролог Юваль Ной Харари на Milan Leadership Forum в Италии назвал вызов, который искусственный интеллект бросает человечеству, крупнейшим за всю историю лидерства. По его словам, ИИ-революция создает «беспрецедентные возможности, но и беспрецедентные угрозы и опасности». Чтобы выжить и процветать в эпоху ИИ, человечеству нужны лидеры, которые умеют предлагать радикально новые видения и в то же время сохранять и укреплять человеческие связи доверия.

«Если люди не могут доверять друг другу, мы все станем легкой добычей для неконтролируемых сверхразумных ИИ», — заявил Харари.

Башня, которая строится сама

Для объяснения ситуации историк обратился к библейскому мифу о Вавилонской башне, к которому в майской энциклике об ИИ прибегал и Папа Лев XIV. В мифе люди, говорящие на одном языке, берутся построить башню до небес, а Бог останавливает их не молнией или землетрясением, а тем, что лишает их общего языка. В то же время Харари видит два принципиальных отличия между мифом и современностью.

Первое: язык больше не является инструментом строительства. Харари отметил, что «сегодня язык сам по себе является башней, которую мы строим». По его словам, ИИ — это новый универсальный язык, язык компьютерного кода, который может выйти из-под контроля и превратиться из покорного инструмента в самостоятельного агента.

Второе: в мифе распад сотрудничества остановил строительство, а теперь всё наоборот. Футуролог заметил, что «человеческое сотрудничество разрушается, а строительный проект лишь всё быстрее ускоряется». По его словам, международный порядок рушится, общества по всему миру охватывает хаос, а люди теряют общую реальность и способность понимать и доверять друг другу.

Двойная ловушка

Именно недостаток доверия, пояснил историк, и ускоряет строительство башни: корпорации и страны не доверяют друг другу, поэтому соревнуются в гонке ИИ и вкладывают всё больше ресурсов, поскольку каждый боится отстать. Из-за этого человечество, по его словам, оказалось в «двойной ловушке».

«Отсутствие доверия ускоряет развитие ИИ, и это же отсутствие доверия одновременно затрудняет для нас удержание ИИ под контролем», — отметил Харари.

Выход историк видит в том, чтобы выиграть время на адаптацию: человечество может приспособиться к жизни внутри «ИИ-башни», как древние организмы приспособились к кислороду, но для этого нужно сотрудничать и замедлить строительство. Проблема в том, что средство сотрудничества — язык — как раз и выходит из-под контроля.

«Миром будет править тот вид, который лучше сотрудничает. Всё настолько просто. Задача человеческих лидеров — позаботиться о том, чтобы люди и впредь сотрудничали лучше, чем ИИ», — подчеркнул Харари.

Этот тезис о доверии и бюрократии как естественной среде ИИ Харари развивал и ранее. В частности, во время лекции в Оксфордском университете он объяснил, что созданный человечеством мир документов, языковых токенов и системных правил является для алгоритмов такой же жизненно необходимой экосистемой, как вода для рыб или атмосфера для биологической жизни. В то же время футуролог подчеркнул, что реальное подчинение мира искусственному интеллекту произойдет не так, как в «Терминаторе», а путем постепенного перехвата контроля над бюрократическими институтами и замены доверия между людьми на решения взаимосвязанных алгоритмических сетей.

Время как главная валюта

Отдельно Харари остановился на том, что ИИ отнимает у людей время. Люди — органические существа, которые живут циклами: день и ночь, лето и зима, активность и отдых.

«Если держать организм постоянно активным и занятым, без отдыха, он сойдет с ума, сломается и умрет», — заявил историк и добавил, что именно это сейчас происходит со всем человеческим обществом.

Харари напомнил, что даже фондовая биржа раньше «отдыхала». По его словам, Нью-Йоркская биржа традиционно работает только с понедельника по пятницу с 9:30 до 16:00 и закрыта в праздничные дни. Если война начнётся в 17:00 в пятницу, Уолл-стрит отреагирует только в понедельник утром, а это даёт банкирам и инвесторам время отдохнуть, побыть с семьями или уехать в отпуск.

Однако ИИ не органичны: у них нет семей, они не ездят в отпуск и не празднуют. Когда они берут под свой контроль биржи, банки и СМИ, людям тоже не дают времени на отдых.

Больше всего от этого страдают лидеры, считает Харари. По его словам, почти все бизнес- и политические лидеры, с которыми он встречался, не имеют права на передышку.

«Если у вас нет времени, вы бедны, сколько бы денег у вас ни было… Настоящая валюта жизни — это не деньги, а время», — подчеркнул историк и отметил, что деньги существуют лишь в коллективном воображении, поэтому, в конечном счете, они состоят из слов.

Харари подчеркнул, что лидеры управляют собственным разумом, и это их инструмент. Мысли и чувства лидеров, по его словам, формируют судьбу миллионов и определяют разницу между войной и миром, между паранойей и доверием. Из-за ускорения ИИ-революции всё больше лидеров не имеют ни покоя, ни времени на здоровье своего разума, а это, по его мнению, плохо и для них, и для общества.

«Не только ради себя, но и ради общества: найдите время, чтобы позаботиться о своём разуме. Только тогда вы сможете найти путь к восстановлению доверия между людьми и тем самым сделать так, чтобы человечество не просто выжило, но и процветало в эпоху ИИ», — подытожил Харари.

Заявление Харари о замкнутом круге недоверия совпадает с новой волной эскалации в глобальной технологической гонке, где страх отставания преобладает над рисками безопасности. США, Китай и ведущие транснациональные корпорации сейчас одновременно вкладывают сотни миллиардов долларов в развитие энергетической инфраструктуры и сетей дата-центров для запуска сверхразумных моделей. В таких условиях попытки ученых и международных регуляторов замедлить развитие технологии для изучения её влияния на общество блокируются геополитическими соперниками, которые не готовы уступать в темпах исследований.