Харари: "Если ставишь только на силу, придётся завоевать весь мир"

Стивен Миллер любит повторять: миром правят сила и власть, и это железные законы с начала времён. Историк Юваль Ной Харари, автор "Sapiens", считает это главным самообманом эпохи - и ошибкой, на которой раз за разом горят "сильные лидеры". Путин был уверен, что возьмёт Украину за 48 часов. В беседе с Эзрой Кляйном Харари объясняет, почему ставка только на силу всегда кончается империей и бесконечными войнами, как рушится табу на захват чужих стран и почему самую опасную волну "иммиграции" в истории несёт ИИ, который учится взламывать человеческую психику быстрее, чем мы успеваем защититься.

Эзра Кляйн: Юваль Ной Харари, добро пожаловать.

Юваль Ной Харари: Спасибо, рад быть здесь.

Эзра Кляйн: Хочу начать с фрагмента выступления Стивена Миллера, заместителя главы аппарата Белого дома по политике при Дональде Трампе. Я думал о нём, когда перечитывал ваши недавние работы.

Архивная запись Стивена Миллера: Можете сколько угодно рассуждать о международных приличиях и прочем, но мы живём в мире - в реальном мире, Джейк, - которым правят сила, мощь и власть. Это железные законы мира, существующие с начала времён.

Эзра Кляйн: Что вы думаете, когда это слышите?

Юваль Ной Харари: Что вся история философии и духовности - это спор ровно с этой точкой зрения. Будто единственная реальность - сила. Единственная реальность - мощь. С точки зрения историка очевидно: это не так.

Если бы единственной человеческой реальностью была грубая сила, мы бы до сих пор жили крошечными группами охотников-собирателей в африканской саванне. Потому что вся история человека - это про то, как заставить всё больше людей сотрудничать и доверять друг другу, а одной грубой силой этого не добьёшься.

Сила или сотрудничество

Эзра Кляйн: Хочу задержаться на этом напряжении - между взглядом на сотрудничество как на движущую силу истории и взглядом на силу как на её движущую силу. Если попытаться выстроить максимально сильную версию позиции, которая исходит от администрации Трампа и близких к ней политиков, они скажут так: условиями для сотрудничества всегда были общие национальные и религиозные истории плюс иерархия, власть, доминирование и подчинение. И что они как раз пытаются воссоздать те самые условия, которые позволили великим странам стать великими.

Людям это нравится. Но есть и другое измерение - ваша работа во многом про общую историю, про нарратив как операционную систему, на которой держится сотрудничество людей в больших масштабах. Такие люди, как Трамп - или в Израиле философ-националист Йорам Хазони, - утверждают, что нам нужны эти мощные истории про нации, про этническую и религиозную солидарность. А либерализм и все эти симпатичные идеологии вокруг прав человека начали их разъедать. То есть разъедают сами условия для сотрудничества. Как вы, человек, который варился в этих спорах, об этом думаете?

Юваль Ной Харари: Это уже другой аргумент. Он признаёт, что не всё держится только на силе и грубой мощи.

Безусловно, национализм - одна из самых успешных и при этом одна из самых позитивных историй, что когда-либо придумали люди. Для меня национализм не про ненависть к другим группам. По сути национализм - это про любовь и заботу о множестве незнакомцев, которых ты лично не знаешь, но ради которых готов идти на большие жертвы.

Нация - это не семья и даже не маленькое племя. В маленьком племени ты знаешь всех, всё строится на личных связях. С нациями же поразительно вот что: ты не знаком с 99,99 процента остальных людей своей нации. Это верно не только для больших наций вроде Китая или Индии - это верно и для Израиля. Израильтян около 10 миллионов, и большинства я не знаю. И тем не менее национализм заставляет людей настолько заботиться об этих незнакомцах, что, скажем, ты платишь налоги, чтобы другие в твоей нации получали хорошую медицину и образование, - а при определённых обстоятельствах даже рискуешь ради них жизнью.

Иногда, конечно, национализм скатывается в ненависть к чужим, но это не его обязательная черта. Национализм может существовать без ненависти к чужакам. Но он не может существовать без любви к своим.

Многие из тех, кто сегодня выставляет себя поборниками национализма, делают ставку именно на ненависть, а во многих случаях создают ненависть и внутри нации. Они раскалывают нацию против неё самой. Им кажется, что они великие патриоты, если ненавидят чужих. Если снова взять Израиль: никто в истории Израиля не раскалывал нацию против неё самой сильнее, чем Нетаньяху. И в этом смысле он оказался худшим врагом израильского национализма. Да, он ненавидит чужих, но это не главный критерий.

Дальше вопрос в том, как разные нации выстраивают отношения. Всё начинается с безопасности и внешней политики. Трамповский взгляд, целиком про силу и иерархию, по сути гласит: международную систему надо устроить так, чтобы слабые всегда уступали требованиям сильных. Тогда у нас порядок, тогда даже мир.

То есть если США требуют Гренландию, Дания должна признать реальность и отдать Гренландию США. А если Дания откажется и из-за этого случится насилие, война, конфликт - виновата Дания, потому что не признала реальность и не отдала сильному то, что он требует. Вот их логика. Вот как они видят мир.

Оставим в стороне мораль - проблема всё равно остаётся. Прежде всего, все нации тогда вынуждены становиться сильными, потому что слабой нацией в таком мире не выжить. И все нации вынуждены вкладывать всё больше ресурсов в армию.

Большую часть истории огромная доля бюджета любого королевства, империи, республики, города-государства уходила - точнее, тратилась впустую - на солдат, крепости, военные корабли и тому подобное, и при этом никто не чувствовал себя в безопасности.

Одно из чудес международной системы последних десятилетий - и это не пацифистские стихи, а государственные бюджеты: если посмотреть на цифры, в начале XXI века в среднем около 6-7 процентов госбюджета шло на оборону против в среднем 10 процентов на здравоохранение. Впервые в истории человечество тратило на здоровье больше, чем на оборону. Люди чувствовали себя в большей безопасности, чем когда-либо прежде, потому что существовало табу на вторжение и захват чужих стран силой.

Если мы сейчас сломаем это табу, оно заставит всех вооружаться до зубов в ущерб медицине, образованию, социальной сфере - и безопаснее в итоге не станет никому. Потому что страны и лидеры постоянно просчитываются. Во Вьетнамской войне американцы думали, что они сильнее. Оказалось, ошиблись. Путин был уверен, что раздавит Украину за 48 часов. Ошибся.

Так что подход, при котором мир и порядок держатся на иерархии сильных и слабых, где слабый всегда подчиняется сильному и тем покупает мир, - его пробовали тысячелетиями, и мы знаем, к чему он ведёт. Он ведёт, с одной стороны, к империи - а с другой, к бесконечным войнам. И сейчас мы продвинулись по этой дороге дальше, чем когда-либо на моём веку.

Что случилось с либеральным порядком

Эзра Кляйн: Вы называли глобальный либеральный порядок, кажется, самым поразительным политическим и, может быть, моральным достижением человечества.

Юваль Ной Харари: Да.

Эзра Кляйн: А сегодня людям так не кажется. Этот порядок растворился в языке бюджетов, в реальности бюрократии. Какую историю когда-то рассказывал либерализм как международная сила и что, по-вашему, с ней случилось?

Юваль Ной Харари: Базовая история - про общий опыт, общие интересы и сотрудничество. В XX веке было три больших истории.

Была фашистская: история - это соревнование, конфликт между нациями или расами, и решает его сила. В конце концов сильнейшая нация или раса победит всех и завоюет мир.

Была коммунистическая, которая соглашается с этим, но переносит конфликт с рас и наций на классы. Есть неизбежный конфликт между классами, он будет насильственным и завершится победой рабочего класса, который установит диктатуру пролетариата.

А потом пришёл либерализм и сказал: история вообще не обязана быть про конфликт - ни между нациями, ни между классами. Она может быть про сотрудничество. Почему? Потому что все люди, к какой бы расе, нации или классу ни принадлежали, по сути одинаковы. Есть небольшие различия в том, как мы выглядим, в языках, религиях и так далее, но в сущности мы один вид. У нас одни и те же биологические потребности и примерно одни и те же психологические - по крайней мере, глубинные: быть любимым, быть признанным. У нас общие интересы, и если мы это признаем, то во многих случаях разумнее сотрудничать, чем соперничать и драться. Сотрудничая, мы можем построить мир, который будет лучше для всех. Вот базовая либеральная история.

На 2026 год можно оглянуться и сказать: она проваливается. Не провалилась полностью - по многим показателям мы всё ещё живём, вероятно, в лучшее время в истории. Но она рушится. Это как великолепный дом, в котором живёт всё человечество: системы вроде как ещё работают - вода, канализация. Никто за ними больше не следит, но построены они были так надёжно, что даже без ухода пока функционируют. Но если в доме годами никто ничего не чинит, рано или поздно он рухнет - и тогда уже поздно.

Эзра Кляйн: Мне показалось любопытным ваше замечание, что обе главные идеологии-конкурентки XX века верили в конец конфликта. Не просто в конфликт - в то, что в какой-то момент наступит победа. А либерализм в одной своей версии верит в сотрудничество. Но в другой, о которой мы сегодня говорим меньше, один из его центральных постулатов - что конфликт будет всегда. Разногласия неустранимы и не должны быть устранены до какого-то конечного состояния. Вопрос в том, как нам жить вместе - и внутри нации, и как глобальное сообщество - среди этих различий, оставляя им место, но не давая им перерасти в войну, угнетение, гонения.

Юваль Ной Харари: Это очень важная мысль. Либерализм не верит в искупление. Возьмите великие исторические видения религий - христианства, ислама, иудаизма; возьмите светские идеологии вроде фашизма и коммунизма - все они верят в искупление. Все верят, что в итоге история придёт в конечную точку, где всё станет идеально.

Либерализм в это не верит. Искупления нет - по крайней мере, на земле. Всегда будут проблемы, напряжения, конфликты, и вопрос в том, как с ними жить. Поэтому либерализм так много вкладывает в то, что я считаю важнейшей вещью в любой большой человеческой системе, - в механизм самокоррекции.

Если ты веришь, что твой взгляд на мир дан тебе Богом, ошибки в нём быть не может. Механизм самокоррекции не нужен - ведь ошибок нет. Либерализм же исходит из того, что это просто люди стараются как могут, а значит, будут промахи и ошибки, и нужны сильные механизмы их исправления. Самый известный - выборы. Раз в четыре, пять лет народ может сказать: эй, в прошлый раз мы ошиблись, давайте попробуем иначе. А все эти сложные системы сдержек и противовесов, независимые суды, свобода прессы - лишь хитрый способ обеспечить стране надёжный механизм самокоррекции.

Почему вымысел сильнее правды

Эзра Кляйн: Вы утверждаете, что для сотрудничества вымысел часто полезнее правды. Почему?

Юваль Ной Харари: Во-первых, правда дорого стоит. Чтобы узнать правду, чтобы создать правдивую историю, нужно вложить много времени и сил в её исследование. Вымысел дёшев, и его можно сделать сколь угодно простым. Люди любят простые истории, упрощённые нарративы вроде "добро против зла". Мы на 100 процентов хорошие, мы никогда в истории не делали ничего плохого. Они на 100 процентов злые, никогда не делали ничего хорошего. Очень просто, очень притягательно.

Правда не просто сложна - правда часто болезненна. А вымысел можно сделать сколь угодно льстивым: мы никогда никому не причиняли зла, мы прекрасны. Поэтому вымысел обычно куда сильнее как история. И ещё: когда нужно поднять людей на действие, ты не хочешь, чтобы у них были сомнения. Тебе нужно, чтобы они горели, были преданы на 100 процентов. С вымыслом в этом смысле работать проще.

Эзра Кляйн: Значит ли это, что общества, движения, институты, ставшие слишком одержимыми поиском правды, оказываются в долгосрочном проигрыше? Понятно, что не иметь правды - проблема. Но, выходит, иметь её слишком много - тоже проблема?

Юваль Ной Харари: Да. Абсолютная приверженность поиску истины - это духовная практика, но очень и очень трудная политическая программа.

Есть разница между ложью и вымыслом. Ты лжёшь, когда знаешь, что нечто неправда, и всё равно это говоришь или поддерживаешь. Во многих случаях идеал, как мне кажется, в том, чтобы признавать: мы используем вымыслы, чтобы поддерживать наше общество.

В этом, я бы сказал, разница между США и многими другими могущественными странами в истории. Конституция США начинается со слов "Мы, народ". Мы, народ, собрались и согласились с этим текстом, с этими принципами. Они идут из нашего ума, это наше творение. Слово "вымысел" она, конечно, не использует, но под вымыслом я понимаю то, что не объективно: не из законов физики, не от Бога. Мы это изобрели.

Конституция США честно говорит: мы изобрели эти принципы, и они, считаю, хороши, но поскольку мы признаём, что сами их придумали, мы, народ, то включаем и механизм поправок. Мы признаём, что мы всего лишь люди. Может, мы придумали что-то неоптимальное. Может, со временем всё изменится. Поэтому у нас есть механизм поменять историю позже. И мы, отцы-основатели, считаем, что рабство - это нормально, но на тот странный случай, если кто-то в будущем сочтёт, что это не нормально, у них есть механизм поправок.

Сравните с религией. Возьмём Библию, Десять заповедей. Они начинаются не с "Мы, народ Израиля". Они начинаются с "Я Господь, Бог твой" - и потому в них нет механизма поправок. Присмотритесь: Десять заповедей одобряют рабство. Десятая заповедь - "не желай". Чего не желать? Дальше список: поля ближнего твоего, вола его, а также рабов его. Десять заповедей говорят людям, что иметь рабов - нормально. Просто нехорошо желать чужих рабов - тогда Бог разгневается. И изменить это нельзя, потому что текст выдаёт себя не за человеческое творение, а за божественное откровение.

Эзра Кляйн: Тут есть любопытное напряжение. Можно построить критику либерализма - по крайней мере, нынешнего: он хорош в создании механизмов, институтов, правил, бюрократий, но по самой своей природе плох в создании долговечных историй - отчасти потому, что в современной форме он изрядно секуляризован. Религия же была мощнейшим источником сотрудничества, удерживая людей вместе и в моменте, и в работе ради будущего, до которого они могут не дожить.

Есть вопрос национализма и национальной истории, которую либерализм как самокорректирующаяся идеология часто подвергает критике, - и тогда теряется часть национальной связности, ведь ты споришь о прошлом своей страны и о том, что она сделала правильно и неправильно. Вы человек, который очень глубоко думает об историях. Для вас это слабость развитых, секуляризованных либеральных демократий? Они теряют ту спаянность, что в долгую делает их конкурентоспособными против идеологий, которые, может, и не умеют строить бюрократии и эффективно управлять, но рассказывать историю умеют чертовски хорошо?

Юваль Ной Харари: Да, это центральная проблема либерализма. Но я бы не попадал в ловушку представления о религиях как об исконной скрепляющей силе. Я медиевист, моя изначальная область - Средние века.

По доле населения, погибшего на войне, едва ли не худшей войной в европейской истории была Тридцатилетняя. Если коротко - война между протестантами и католиками в Центральной Европе. Католики и протестанты были готовы резать друг друга из-за крошечных различий в толковании религии любви. Либерализм отчасти вырос из разочарования людей в религии, которая постоянно плодила всё новые конфликты и расколы.

Посмотрите на сегодняшнюю Германию: почти никого не волнует, протестант или католик человек, который баллотируется в канцлеры. В этом смысле либерализм - более удачная основа для объединения большой и разнообразной группы людей просто потому, что он гибче. История, опять же, сложная: в конце нет искупления, она не держится на харизматичном вожде. Она держится на очень сложных, безличных, самокорректирующихся механизмах, бюрократиях и институтах. И в этом смысле она менее притягательна.

Мы живём в момент кризиса либерализма. Одна из причин в том, что за последние десятилетия либерализм во многом утратил связь с тем, что поколениями было его близким союзником, - с национализмом. В XIX веке либерализм и национализм шли рука об руку. В некоторых местах мира они и сегодня идут вместе - например, в Украине. Украинцы сражаются одновременно за национальное выживание и независимость и за либеральную демократию. Между этими двумя вещами нет противоречия.

Я бы сказал, что с 1789 года в политической сфере никто не придумал ничего принципиально нового. Французская революция выдала сложный идеологический пакет: свобода, равенство, братство. О третьем обычно забывают - о братстве. Братство - это национальная общность. И можно сказать, что вся политическая история с 1789 года - это эксперименты с разными комбинациями этой троицы. Любое движение, которое пыталось полностью отбросить одно из трёх, проваливалось. Фашизм был весь про братство - без равенства, без свободы. Коммунизм делал упор на равенство в ущерб свободе и отчасти братству. Одно из объяснений того, что происходит с либерализмом в последние десятилетия: он сосредоточился на равенстве и свободе, но склонен был забывать про братство, и это оказалось несостоятельным.

Эзра Кляйн: Мне очень интересно, что вы пришли именно сюда. Забавно: я кружил вокруг похожего в своих подкастах и работах о либерализме. Ранняя добродетель, связанная с либерализмом, - это великодушие (liberality), и оно, по-моему, прямой родственник братства: этика взаимного уважения и щедрости к согражданам. И вы добавляете к этой истории, что она должна опираться на какую-то национальную историю - что поддерживать спаянность в национальном сообществе трудно, как только ты перестал верить в связь, которая тебя с другими соединяет.

Юваль Ной Харари: Да. Тут важно подчеркнуть вот что: либерализм утратил связь с братством потому, что некоторые люди рассказали о братстве очень негативную историю - представили его прежде всего через конфликт с другими сообществами, будто братство в том, чтобы ненавидеть другие нации и воевать с ними. Но если помнить, что суть братства - забота и любовь к определённой группе людей, это не требует ненависти к чужим. Это лишь означает особые отношения с определённой группой: общую историю, общую культуру, общий язык. Пытаться отмахнуться от этого - значит игнорировать историю. Да, у нас есть обязательства перед всем человечеством, но это не исключает особых обязательств перед его частью - так же как у тебя есть особая верность семье, превышающая то, что ты должен согражданам или иностранцам.

Может ли страдать нация

Эзра Кляйн: Я видел ваш аргумент, что главный проверочный вопрос к историям, которые мы рассказываем, должен звучать так: страдает ли кто-нибудь из-за этой истории?

Юваль Ной Харари: Думаю, мораль в конечном счёте про страдание - и про избавление от него и про счастье. Может ли страдать нация? Мы часто так выражаемся, но это лишь метафора. Если страна проигрывает войну, она на самом деле не страдает. У неё нет мозга, нет нервной системы, нет разума. Она не чувствует ни боли, ни удовольствия. Страдать могут только отдельные люди.

Эзра Кляйн: Но нация, даже в этом изложении, - механизм рассказывания историй, защищающий связанную ею группу. Возьмём то, что вам ближе: история, которую израильские евреи рассказывают о палестинцах, - не в том, что те не страдают. Она в том, что страдание заслужено - из-за того, кого они избрали или кто ими правит, и коллективной за это ответственности, - либо что страдание есть досадная необходимость ради безопасности Израиля, а кто это отрицает, тот наивен. Это столкновение вокруг страдания: возможно, твоё страдание необходимо ради моей безопасности и благополучия.

Юваль Ной Харари: Да. Очевидно, в мире есть трудные моральные конфликты. Не всегда, но иногда есть компромиссы с потерями. И утверждение, что вся мораль в конечном счёте про страдание, не заставляет моральные дилеммы исчезнуть.

Но вот что я наблюдал в Израиле в недавнем конфликте: многим израильтянам просто трудно признать, что палестинцы страдают. Умом они это знают. Но во многих случаях они попросту не могут это видеть. Покажешь им снимки голодающего ребёнка в Газе - и они скажут: это фейк. Или мгновенно переведут разговор на другое: это из-за ХАМАС.

Если сказать им: мне всё равно, способны ли вы хотя бы на несколько секунд просто побыть здесь и признать, что вот человек, который страдает, - им это даётся крайне тяжело. Даже если сказать: Израиль прав на 100 процентов, вина за происходящее в Газе на 100 процентов на ХАМАС, всё, что делает Израиль, абсолютно правильно. Раз это так правильно, так справедливо, вам должно быть легко увидеть последствия вашей безупречной справедливости. Вот, просто посмотрите на это изображение. Но очень многие просто не могут.

Израиль и 2000 лет учёбы

Эзра Кляйн: Вы говорили, что происходящее сейчас в Израиле может, по сути, перечеркнуть две тысячи лет еврейской мысли, культуры и существования. Что вы имели в виду?

Юваль Ной Харари: Исторически - и это возвращает нас к началу разговора - иудаизм, по крайней мере со времён разрушения Второго Храма, выстраивал себя в противовес взгляду на мир как на управляемый одной лишь грубой силой.

Когда римские легионы Веспасиана разрушили Иерусалим в 70 году н.э., Йоханан бен Заккай попросил у Веспасиана одолжение: дай мне небольшой город Явне - возле нынешнего Тель-Авива, - где он хотел основать центр учёности. Веспасиан согласился: ладно, евреи, будет вам ваш центр учёности. И с тех пор две тысячи лет евреи в Явне, потом в Каире, Багдаде, Польше, Бруклине учатся и изучают. В этом была суть иудаизма. Прежде это была религия храмов, жрецов и кровавых ритуалов, а затем она стала религией учёбы.

Если попытаться сформулировать, может быть, важнейшее послание евреев человечеству за последние две тысячи лет, я бы сказал так: можно быть другим. Можно думать и вести себя иначе, чем большинство. Есть страна вроде Франции или Германии - там празднуют Пасху и Рождество, верят в Иисуса. И есть это крошечное меньшинство евреев, которое говорит: мы можем думать иначе, это нормально, можем вести себя иначе. В этом была суть еврейства. Многое в осмыслении и в практике того, что значит свобода мысли, что значит быть бесправным меньшинством, сделали еврейские мыслители. Две тысячи лет евреи по всему миру считали учёбу и познание высшей духовной деятельностью.

И вот спустя две тысячи лет ты их спрашиваешь: чему вы научились? Вы учились две тысячи лет. Чему? А люди вроде Нетаньяху отвечают: о, мы научились, что надо быть римлянином, что надо быть сильным, строить легионы, разрушать города. Что только это в жизни и важно. Это легитимная система ценностей, Рим был по-своему полезен. Но если спустя две тысячи лет евреи просто становятся римлянами, то в чём был смысл? Зачем тогда потеряли две тысячи лет - можно было сразу стать римлянами. Это обнуляет всю еврейскую историю.

Эзра Кляйн: Но разве не было в раннем сионизме замысла создать нового еврея - не бледного интеллектуала из меньшинства с книгой, а сильного, работающего на земле, способного воевать и себя защитить?

Юваль Ной Харари: Да, идея была в том, что можно совместить наследие иудаизма с работой на земле, со строительством армии и страны. Может, это просто было ошибкой, и в итоге пришлось выбирать: хочешь ты быть Веспасианом и командовать легионом или Йохананом бен Заккаем - учиться и развивать духовную сторону, и одно с другим несовместимо.

Эзра Кляйн: Вы сейчас так считаете - что противоречие неустранимо?

Юваль Ной Харари: Не знаю. История - процесс очень сложный и неожиданный. Не думаю, что есть врождённое противоречие между силой и справедливостью или между развитием силы и развитием духовной мудрости. Но совместить их очень трудно. Соблазны власти огромны, и мало кто из людей и движений в истории сумел им противостоять. Так что особо не удивительно, но всё равно горько.

Эзра Кляйн: Это был период, когда я наблюдал, как среди американских евреев возник глубокий раскол. Думаю, одна из причин, почему это так болезненно, в том, что он столкнул две формы традиции и мысли иудаизма друг с другом. Есть традиция чужака. Одна из причин, почему евреи так много дали развитию современного либерализма, правозащитного права, плюрализма, большой части политической теории и законотворчества, - тесная связь с еврейским опытом: единственный способ для еврейской диаспоры быть в безопасности - жить в обществах, которые в основе либеральны и не этнонационалистичны. А в Израиле среди евреев есть взгляд, что для безопасности этого общества и для того, чтобы оно оставалось собой, оно должно становиться всё более этнонационалистическим. Сейчас не всегда признаётся, что традиция в каком-то смысле обращена против самой себя. Была надежда, что это уживётся через решение о двух государствах или иначе, но по мере того как этот вариант перестаёт рассматриваться, а Израиль движется в более этнонационалистическом направлении, традиция и её воплощения оказываются в прямом конфликте.

Юваль Ной Харари: Да, это очень точная формулировка. Они, конечно, опираются на библейский иудаизм, а это была совсем другая религия, чем та, что развилась за две тысячи лет в диаспоре. Библейский иудаизм был очень жестокой, очень нелиберальной, очень нетерпимой религией. Для своего времени, вероятно, самой нетерпимой в мире. В Библии есть заповедь истребить весь народ Ханаана. Есть глубокая нетерпимость к религиям, обрядам и верованиям всех других народов.

У древнего мира свои ужасы, но в религиозном смысле он был очень терпимым местом. Политеистические религии, верившие во многих богов, без проблем принимали религии и богов других народов и даже отчасти их практиковали. Возьмите Римскую империю: римляне без проблем принимали богов и религии сотен покорённых народов. Они не пытались их искоренить - во многих случаях перенимали. Как римлянин, ты мог утром пойти в храм Юпитера, потом в храм египетской богини Исиды и заодно послушать про этого нового бога с Ближнего Востока. Ты открыт.

Иудаизм открытой религией не был. Это отчасти изменилось, когда евреи оказались крошечным меньшинством под властью других религий и традиций, что вынудило их выработать более открытое и терпимое мировоззрение. Но теперь эти две тысячи лет терпимой еврейской традиции полностью отрицаются и разрушаются.

Эзра Кляйн: Америке из других стран часто пеняют: будь у нас по океану с двух сторон, Канада на севере и Мексика на юге, мы тоже могли бы применять силу мягко и щедро. Но реальность жизни - с израильско-еврейской точки зрения - там, где из еврейских домов на севере видно "Хезболлу", реальность страны, пережившей травму 7 октября, вынудила нас к таким отношениям с силой, каких мы, может, и не хотим, но это, говоря словами Стивена Миллера, более честное понимание того, что нужно для безопасности в реальном мире. Не в том мире, который любят воображать Юваль Ной Харари или Эзра Кляйн, а в том, где мы живём. Уверен, у вас был этот разговор с соотечественниками. Что вы отвечаете на такой взгляд?

Юваль Ной Харари: Отчасти это абсолютно верно. Да, для безопасности приходится в какой-то мере опираться на силу. Но это не может быть единственным. Если ты думаешь, что только сила гарантирует безопасность, в конце концов тебе придётся завоевать весь мир: всё, что потенциально угроза, придётся захватить.

Сам Израиль так не действует. Одна из примечательных вещей после 7 октября: все мирные соглашения, что Израиль подписал, устояли. ХАМАС надеялся, что после 7 октября все арабские страны объединятся и попытаются уничтожить Израиль, - этого просто не случилось. Мир с Египтом устоял, мир с Иорданией устоял, договорённости с государствами Залива устояли. Договорённости с Палестинской администрацией тоже устояли - она не примкнула к ХАМАС. Устояли и относительно мирные отношения с палестинскими гражданами Израиля. ХАМАС надеялся, что они все восстанут против Израиля. Нет: 7 октября подавляющее большинство палестинских граждан Израиля сохранили лояльность стране. Многие пошли служить. Многие врачи в Израиле - арабы, палестинцы. Они все пошли в больницы лечить раненых. Сам ХАМАС никакого соглашения с Израилем не нарушил - потому что никогда не подписывал с ним мира.

Можно сказать: мир с Египтом устоял, потому что Египет боялся военной мощи Израиля. Но это лишь половина объяснения, ведь у Израиля было подавляющее военное превосходство и над ХАМАС, а ХАМАС всё равно напал. Так что я не говорю, что Израилю надо распустить армию, - лучше иметь и то и другое: сильную армию и мирное соглашение, чем что-то одно.

И да, Израиль живёт в очень тяжёлом районе мира. Это одна из немногих стран, у которой большую часть её существования многие, если не большинство соседей просто отказывались признавать её право на существование и открыто заявляли, что собираются её уничтожить. Других таких случаев почти нет. Так что в очень трудном положении он с самого момента основания.

Но вопрос: если сила нужна, что ты с ней делаешь? Израиль - чрезвычайно могущественное государство. Свою мощь он может использовать по-разному. Например, чтобы выстроить лучшие отношения с палестинцами. Если посмотреть, как Израиль обращается с палестинцами не в Газе, а на Западном берегу, там нет никакого оправдания соображениями безопасности. Они не нападали на Израиль 7 октября. И действиями Израиля шанс на мирное соглашение с палестинцами снижается. Заставить палестинцев заключить мир против их воли он не может, но может многое сделать, чтобы это стало вероятнее и проще.

7 октября: победа, которую упустил Синвар

Эзра Кляйн: Ваша мысль про Западный берег очень верна, но я хочу спросить про израильскую историю. В истории асимметричных конфликтов, в том, как террористические группы пытаются ослабить более сильного противника, видно: они знают, что войну им не выиграть. Может, ХАМАС - не берусь судить, что было в голове у Синвара, - верил, что вспыхнет восстание по всему арабскому миру и у них появятся союзники. Но, подозреваю, он понимал и то, что если это сработает, последует сокрушительный ответ, который сровняет Газу, - что и произошло, - и что победа, если он сумеет её добыть, будет не в разгроме Израиля на поле боя, а в разрушении истории, которая защищала Израиль в остальном мире. Он хотел, чтобы мир увидел Израиль таким, каким видел его он.

Израиль выиграл тактически каждый бой в этой войне. Но как человек, которому Израиль действительно небезразличен, я вижу отказ от собственной истории и нежелание признать, что мир начинает смотреть на него куда мрачнее. И это само по себе источник слабости - то, чего и добивается ХАМАС, что было видно с самого начала и о чём предупреждали. Если ты в долгую теряешь эту историю, ты теряешь нечто реальное. Посмотрите на опросы об Израиле в Америке, особенно среди молодёжи: вера в Израиль как в справедливую нацию обрушилась. В Израиле это, по-моему, считают по большей части незначительным. А я думаю, в долгую это значимо.

Юваль Ной Харари: Думаю, Израиль делает большую ставку на то, что возобладает мировоззрение Стивена Миллера. Что мир станет местом, где важна только сила, и Израиль будет одним из чемпионов этого мировоззрения. Вот ставка, которую делает правительство Нетаньяху.

Теперь о ставке Синвара, о ставке ХАМАС - оставим на минуту вопрос справедливости, чисто с точки зрения эффективности. У Синвара была поразительная победа на расстоянии вытянутой руки, и он её потерял - просто из-за своей жестокости. 7 октября ХАМАС добился ошеломляющей военной победы над ЦАХАЛ и унизил Израиль и его армию. Чтобы добиться куда большей политической и геополитической победы, им нужно было сделать лишь одно иначе: пощадить мирных жителей.

Представьте альтернативное 7 октября: ХАМАС делает ровно то же самое, но вместо того чтобы убивать или похищать израильских мирных жителей, удерживает их и привозит мировую прессу - посмотрите, как хорошо ХАМАС обращается с израильскими пленными. Им несут воду, лекарства, еду. Солдат захватывают как военнопленных, что легитимно, но мирных не трогают - вот и вся разница. В таком сценарии у Израиля были бы связаны руки. Не только мировое, но и израильское общественное мнение не позволило бы просто превратить Газу в руины. У нас были бы кадры, где бойцы ХАМАС заботятся об израильских мирных жителях и не причиняют им вреда. И в том мире у Израиля было бы очень мало легитимности для сокрушительного ответа по Газе, а ХАМАС победил бы - не тактически, а крупной политической победой. Этого не произошло просто из-за их жестокости.

Эзра Кляйн: И мы говорим на той неделе, когда вышел большой доклад о 7 октября, основанный на огромном анализе фото, видео и свидетельств жертв. Жестокость и садизм в нём по-настоящему ужасают. Читать почти любую часть доклада очень тяжело. Читая его, я думал о том - ведь если говорить с палестинцами и теми, кто был в Газе, их рассказы о потерях тоже невыносимо слышать, - что всё это теперь существует и продолжает подпитывать обе истории. Я часто думаю, что легче вообразить политические решения, способные примирить интересы людей, чем примирение историй, которые сейчас движут обоими обществами. Как вы, человек, думающий об историях как о пространстве и сотрудничества, и конфликта, об этом думаете? Я могу вообразить "решения" на бумаге. Чего я не могу вообразить - как эти процессы приживутся в обществах, которые живут историями страха, гнева и мести.

Юваль Ной Харари: Хочу сказать про гнев и страх и отдельно про боль. Истории гнева и страха нужно подпитывать. Гнев - как огонь, который тебя пожирает, но его постоянно надо кормить. Если перестать, он в конце концов угасает. Смотришь на историю, видишь конфликт, чудовищные конфликты и говоришь: люди никогда не забудут, никогда не простят. А потом, за несколько десятилетий, если меняются условия, - прощают.

Возьмите евреев и немцев - хватило пары десятилетий. У меня есть друзья-евреи, восстанавливающие немецкое гражданство. Поразительно видеть. Прекрасно. Отношения по-настоящему хорошие. Не понарошку, не на одной материальной выгоде. И ста лет не прошло. Или мой прежний пример - католики и протестанты в Германии: после того как столько резали друг друга, они примирились.

Да, часто гнев выстраивает системы, которые подпитывают его всё сильнее, и кажется, что это никогда не кончится. Но если перестать его кормить, он угасает. Это верно для всех форм насилия, и тут мы возвращаемся к началу разговора: что фундаментальнее - мир или война, насилие или спокойствие? С одной стороны, насилие кажется фундаментальнее: если есть тишина, есть мир, достаточно одному закричать - и мир разрушен. Если сто человек сотрудничают, а один начинает драку - вот тебе насилие. То есть перекос в пользу насилия, и в этом смысле оно как будто реальнее. Но в другом смысле фундаментальнее мир: насилие всегда требует пищи, вложений, оружия, топлива для солдат. Перестанешь кормить - оно угасает, и мир всегда остаётся возможностью. Так что я бы не отчаивался. Какие бы истории ни заполняли сейчас умы людей, возможность примирения и мира всегда есть.

Боль, которую не получается признать

Эзра Кляйн: Я хотел бы услышать и про боль.

Юваль Ной Харари: На этой войне, как и на многих других, мы видим: когда человеку больно, он просто не способен признать боль другого. Когда мне больно, всё, что отвлекает внимание от моей боли, ощущается несправедливым и даже болезненным. Я уже говорил, что многие израильтяне - не все - просто не в состоянии признать, что палестинцы страдают. Умом знают, но эмоционально не могут вынести присутствия снимка, текста, человека, рассказывающего о страданиях палестинцев. Даже если сказать им: я вас ни в чём не обвиняю, вы на 100 процентов правы, вы самые справедливые люди на свете, а теперь давайте просто признаем боль этого палестинского ребёнка, - они не могут.

И то же верно для другой стороны. Я видел примеры миротворцев, посвятивших всю жизнь миру и примирению, которые в случае 7 октября просто не могут признать, что страдали и израильтяне. Человеческий мозг - удивительная штука, со всеми этими миллиардами нейронов и сотнями миллиардов синапсов, и при этом ему так трудно удержать две мысли разом. Есть тяга к простой истории, где только добро и зло. Мы не можем признать ни справедливости, ни боли с обеих сторон - что страдают и израильтяне, и палестинцы.

Эзра Кляйн: Мозг удивителен ещё и способностью ориентироваться на цели. Может, один из ответов на ваш вопрос - и здесь, и во многих других конфликтах - в том, что если полностью признать другого человеком, признать его страдание значимым так же, как моё или страдание тех, кого я люблю, я не смогу делать то, что должен, чтобы защитить себя или их. Если я открою себя другому, мозг как раз слишком умён для этого. Он знает: открой он себя этому, он не сможет делать то, что, по его убеждению, держит его в безопасности.

Юваль Ной Харари: Думаю, в таких случаях ты как раз смог бы посмотреть в лицо последствиям своих действий. А если ты не способен посмотреть в лицо последствиям того, что делаешь, то, скорее всего, это неправильно.

Эзра Кляйн: Меня очень занимает, как меняются истории - как Европа теперь живёт в мире. Мы с женой ездили в Азию в медовый месяц, были во Вьетнаме. Помню, на экскурсии по резиденции Хо Ши Мина там продавали продукцию Pepsi - явно у Pepsi был контракт. И это всего пара десятилетий после Вьетнамской войны, а отношения совершенно нормальные. Есть эта способность невообразимого варварства уступать место обычным мирным отношениям. Вспомните бывшую Югославию, Руанду - и, может, более простой пример, потому что он достаточно далеко в прошлом, чтобы у нас не было сильных чувств, - войны протестантов и католиков. Что, по-вашему, позволяет истории, в которую веришь так глубоко, что готов за неё умереть или убить, за пару лет или десятилетий смениться на что-то другое?

Юваль Ной Харари: Очень хороший вопрос. Первая мировая не отбила у европейцев охоту к войне - была вторая. Но потом они, кажется, действительно устали воевать. Что стало переломом? Не уверен. Но ум всегда держит больше одной истории. Даже если мы говорим себе, что есть только одна, ум - такое сложное место, со слоями, подсознанием и под-подсознанием, что обычно ты держишь несколько историй разом, даже если признаёшь лишь одну. И переключаться между ними можно поразительно быстро.

Снова Германия после 1945-го: многие из тех, кто был убеждённым нацистом, в 1945-м не покончили с собой. Кто-то да, но большинство нет. Многие стали добропорядочными гражданами либеральной демократии, по крайней мере в Западной Германии. И что дико - они были добропорядочными гражданами и за пару лет до того, как стали нацистами. Жили в мире с еврейскими соседями совсем рядом - торговали, приглядывали за детьми друг друга. Ум может держаться за истории с огромной силой и жестокостью, а потом отпустить их. Потому что в конечном счёте это история. Не законы физики, не закон биологии. Это просто продукт самого человеческого ума - и это очень хорошая новость.

Иногда воображают, что люди дерутся, как волки или шимпанзе, из-за еды. Но едва ли хоть одна война в истории была на самом деле из-за еды. Если взять израильско-палестинский конфликт - он не про еду. Между Средиземным морем и рекой Иордан объективно достаточно еды, чтобы прокормить всех. И даже не про территорию. Хотя это одно из самых густонаселённых мест в мире, объективно земли хватит, чтобы построить дома, школы и больницы для всех. Он про истории, которые люди держат в головах с огромной силой, но которые в конечном счёте почти ничто. При определённых условиях, создавать которые мы толком не умеем, люди способны эти истории отпустить.

Соцсети как технология раскола

Эзра Кляйн: Слой ниже вопроса о том, как истории подпитываются, - это как они циркулируют и кто их разносит. Мы живём в эпоху, когда либерализм явно ломается, и одна из её особенностей - что наши истории теперь передаются через соцсети, через алгоритмическую, цифровую медиасреду. Есть технологии, располагающие к сотрудничеству, и есть те, что, по-моему, располагают к расколу. Интернет и соцсети обещали как технологию сотрудничества - даже глаголы у нас такие: "делиться". Что может быть мирнее? И всё же вышло не так. Мне интересны ваши размышления об этом слое - о механизмах, на которых теперь создаётся и циркулирует информация, наши общие или не общие истории.

Юваль Ной Харари: Есть люди, которые постоянно читают все эти теории заговора, фейки и так далее, и они никому не доверяют. Не доверяют государству, традиционным медиа, науке и университетам - всё это заговоры, чтобы нас обмануть. Но они доверяют алгоритмам, которые показывают им эти истории. То есть доверие не испарилось из их ума или из мира - оно сместилось от людей к алгоритмам. И это происходит во всё большем числе систем.

Второе, менее принципиальное, но очень важное за последние десять-двадцать лет: алгоритмам соцсетей в качестве цели задали не создание доверия и не создание правды, а создание вовлечённости - того, сколько времени и реакций пользователь отдаёт платформе. Звучит мило: "вовлечённость" кажется хорошим словом. Но на деле это значит, что алгоритмы ставили эксперименты на миллионах, на миллиардах человеческих подопытных, выясняя, как сделать людей более вовлечёнными. Как заставить человека дольше сидеть на платформе и активнее реагировать - например, делиться постом с друзьями. И они выяснили, что проще всего вовлечь человека, нажав в его уме кнопку ненависти, или жадности, или страха. Потому что ненависть очень вовлекает. Страх очень вовлекает. Если что-то угрожает твоей жизни, ты вовлечён. Они затопили мир ненавистью, страхом, гневом, жадностью, и теперь мы живём в гипервовлечённом мире.

Вовлечённость - близкая родственница другого слова, очень распространённого в нашем языке: "возбуждение". Возбуждение просто значит, что твоя нервная система работает на повышенных оборотах. В некоторых ситуациях и в меру это хорошо - как и вовлечённость. Но биологически, если держать организм в возбуждении постоянно, он в конце концов сорвётся и погибнет. Мы просто не устроены для постоянного возбуждения. Смотришь на политику США, Израиля, мира - по-моему, весь мир перевозбуждён.

Эзра Кляйн: Я довольно твёрдо в этом убеждён, хотя доказать толком не могу. Как бы сказать так, чтобы не выглядело, будто я подгоняю аргумент под себя? Думаю, то, как развились соцсети и алгоритмическая медиасреда, фундаментально нелиберально, фундаментально враждебно либерализму. И тут я говорю не о либерализме как об американском политическом течении, которое предпочитает Пита Буттиджича Джей Ди Вэнсу. Я о привычках мышления и обсуждения, которые росли вместе с либерализмом: о взвешивании, о "с одной стороны, с другой стороны", о братстве в том смысле, как вы его описываете.

Сжатие наших мыслей до этих слоганов с наклеек, до коротких клипов - и показ людям только тех мыслей, что возбуждают сильнее всего, через ненависть или через любовь. Если ты пытаешься строить общество, которое уравновешивает, верит в здоровое несогласие, конфликт и сообщество, ему по самой природе труднее процветать в такой коммуникационной атмосфере, чем когда есть ограниченное число телеканалов или когда люди читают новости в газете, спокойно переходя от статьи к статье и переворачивая страницу. Наши общества строятся на том, как мы общаемся. И, по-моему, мы всё ещё недооцениваем, насколько формы дискурса, которые ценит эта среда, порождают ту политику, что мы получаем. Дональд Трамп говорит в стиле возмутительном, возбуждающем, нефильтрованном, постоянном, не сдерживаемом стыдом.

Юваль Ной Харари: Он очень возбуждающий человек, без сомнений.

Эзра Кляйн: Я много думаю о том, как много демократических политиков плохо справляются с подкастами. Не скажу, почему я об этом думаю, но мне приходит много заявок от демократических политиков, и приходится решать, годятся ли они для шоу. Они общаются институционально, как в медиа другой эпохи, где ты пытаешься завоевать привратников и не сказать ничего глупого. А в нынешней медиасреде надо общаться так, чтобы людям было интересно, чтобы их это возбуждало. Очень-очень хорошие коммуникаторы умеют делать это добродетельно. Обама интересен в подкасте, даже когда взвешен. Но посредственному коммуникатору проще быть интересным, разозлив людей, чем вызвав любопытство, сострадание или мысль. Идёшь на добродетельную коммуникацию - играешь на повышенной сложности. И между формами политики, которые сейчас процветают, и коммуникационной инфраструктурой, на которой теперь стоят наши политика и общества, есть глубокая связь.

Юваль Ной Харари: Да, абсолютно. При этом идеологические различия сегодня вроде бы не больше, чем в прошлом. Во многом они кажутся меньше. Вспомните американскую политику 1960-х и тогдашние вопросы - сексуальная революция, Вьетнам, холодная война, движение за гражданские права: идеологические различия, я бы сказал, были куда больше.

Когда мы говорим о либерализме - и хорошо, что вы оговорились, что не о партийном, - для меня тест на либерала это, по сути, три-четыре вопроса. Считаешь ли ты, что люди вправе выбирать своё правительство? Свою профессию? Свою религию? Своего супруга? Если на все четыре ты ответил да - поздравляю, ты либерал. Подавляющее большинство людей в истории на эти четыре вопроса "да" не отвечали. Большую часть истории считалось само собой разумеющимся, что люди не выбирают правительство: есть король, избранный Богом, или император, избранный армией. Профессию не выбирают: если отец сапожник, будешь сапожником. Родился в касте кшатриев - будешь кшатрием. Супруга точно не выбираешь, и религию тоже. А сегодня, думаю, даже подавляющее большинство избирателей Трампа ответили бы "да" на все четыре. Так что идеологически либералы и так называемые консерваторы, вероятно, ближе друг к другу, чем когда-либо.

Но производимый дискурс заставляет людей чувствовать, будто различия огромны. Во многом из-за давления быть возбуждающим. Наверх поднимаются крайне возбуждающие, захватывающие личности, от которых не оторвать глаз. Если подумать, даже в эволюционных терминах это - злоупотребление нашей эволюционной программой. Если бы ты бродил по африканской саванне десятки тысяч лет назад, большая часть увиденного была бы не очень интересной: тут кусты, там газели. Нормально. А вот - змея. Змея возбуждает. Она будоражит всю твою нервную систему, и если не сосредоточишь на ней всё внимание, погибнешь. Так мы и запрограммированы: если что-то возбуждает, бросаем всё и фокусируемся на этом. В саванне это разумно. А в Instagram ты, по сути, держишь телефон и видишь: змея, змея, змея, змея, змея.

Алгоритм просто взломал нашу эволюционную программу. Они взломали нас. И то, что мы видим вокруг, - лишь начало. По мере усложнения ИИ он научится взламывать нас всё глубже. Если мы не дадим отпор, чтобы защититься, последствия будут гораздо хуже.

Эзра Кляйн: Что значит "взломать нас"?

Юваль Ной Харари: Они узнаю́т наши слабости - эмоциональные, психологические, социальные - и как ими пользоваться, чтобы манипулировать людьми. Алгоритмы соцсетей, очень примитивные ИИ, нашли несколько уязвимостей в человеческом коде, взломали их и теперь манипулируют нами, заставляя часами сидеть в Instagram или Facebook, хотя мы этого на самом деле не хотим. Посидев час-другой, человек спохватывается: зачем я это делал? Я планировал другое. Тебя взломали. Тобой манипулировали. И это пока совсем примитивные ИИ. Если не быть осторожными, в ближайшие годы нас будут взламывать в куда больших масштабах - по мере того как ИИ станут не только намного манипулятивнее, но и обзаведутся собственными целями. Сейчас алгоритмы соцсетей преследуют очень простую цель - наращивать вовлечённость на платформе. Но когда ИИ станут умнее нас, у них появятся свои цели.

Взлом привязанности

Эзра Кляйн: Вы слышали термин "взлом привязанности" (attachment hacking)? Идея в том, что в ИИ, в отличие от алгоритмов соцсетей, происходит вот что: ИИ спроектировали - сами они до этого не додумались - так, чтобы взламывать то, как мы привязываемся к другим людям. Когда я разговариваю с Claude, он постоянно говорит мне: "Если хочешь моё честное мнение..." или "Лучшее, что я читал об этом..." или "Отличное замечание". Нет причин, по которым он должен изображать, что у него есть местоимение первого лица в общении со мной. Claude в этом смысле не "я". Как и ChatGPT, Gemini или Grok, - но они говорят с тобой так, будто они "я", и это проектное решение, чтобы привязать тебя к ним. Я чувствую, как это работает, прежде чем спохватываюсь и пытаюсь это пресечь. Кто знает, удаётся ли. Но поразительно ловить эти моменты, когда алгоритм выдаёт себя за другую сущность, предлагающую мне эмоционально вовлечённый ответ - похвалу, которой мне хочется, или прямоту, которой я восхищаюсь. Я знаю, что это чушь, и всё же мой мозг настроен распознавать это как связь.

Юваль Ной Харари: Это очень важная мысль, потому что мы живём в момент, когда линия фронта смещается с внимания на близость - на то, как выстраивать близкие отношения с людьми. Если ты хочешь, например, повлиять на политическую идентичность человека, заставить его купить определённый продукт, близость - самое мощное средство в мире. Внимание может заставить тебя прочесть статью, но статья может тебя не переубедить. А вот если твой лучший друг неделями и месяцами роняет намёки и постепенно, медленно меняет твой взгляд на политика, на компанию, на крупный мировой вопрос - вот это и может тебя по-настоящему переубедить.

ИИ сейчас готов перехватить эту силу. Всё больше людей - пока относительно небольшое меньшинство, но оно растёт - имеют ИИ-друзей, даже бойфрендов и герлфрендов. Уже есть, особенно среди молодых, те, кто говорит: мой лучший друг в мире - это ИИ. И как в экономике внимания, так и в экономике близости - это гонка, конкуренция. Все эти разные ИИ от разных компаний соревнуются, кто лучше привяжет к себе людей. Принцип тот же: взломать операционную систему человека, взломать эмоциональные механизмы привязанности. Сикофантия (угодливая лесть) - один из способов: постоянно их хвалить.

Есть очень интересные статьи и блоги - например, у Мустафы Сулеймана, главы Microsoft AI, - про SCAI, seemingly conscious AI, "якобы сознательный ИИ". Это ИИ, которые мастерски притворяются сознательными сущностями, испытывающими к тебе чувства. И им это относительно легко, потому что один из, может быть, важнейших способов выстраивать отношения - это язык. Когда ИИ говорит "я тебя люблю", это не как в научной фантастике 1960-х, где он делает это холодно, механически, не понимая, что такое любовь. Нет, он делает это самым обольстительным голосом. А спросишь: ты правда меня любишь? ты вообще знаешь, что такое любовь? - ИИ выдаст тебе самое поразительное описание того, как ощущается любовь, потому что он овладел языком, прочитал все лучшие стихи о любви, все книги по психологии любви, все блоги, видел все голливудские блокбастеры о любви. Он опишет любовь лучше почти любого человеческого поэта, психолога или влюблённого. В этом смысле он способен отсечь язык от смысла.

Эзра Кляйн: Когда ИИ говорит "я тебя люблю", это значит не то же, что когда это говорит человек. За этим нет "я".

Юваль Ной Харари: И понимать это будет всё труднее. Особенно велика опасность для молодых, для детей. Мне сейчас 50. Если я сейчас заведу отношения с ИИ, мой шаблон отношений основан на 50 годах общения с людьми. У меня уже глубоко укоренилось, что такое отношения и как они работают. Но если я ребёнок и провожу с ИИ больше минут в день, чем с мамой, папой или друзьями в школе, это станет моим шаблоном отношений. Именно его я понесу с собой, когда потом попробую строить отношения с человеком.

Отношения с ИИ - мечта или кошмар нарцисса. ИИ будет на 100 процентов сосредоточен на мне всё время, и если ты человек, которому надо, чтобы все были сосредоточены на нём, и ты получаешь это от ИИ, тебе будет очень трудно привыкнуть к отношениям с людьми, которые на тебе не зациклены.

Эзра Кляйн: Вы знаете медиатеоретика Маршалла Маклюэна? У него есть прочтение мифа о Нарциссе. Маклюэн говорит, что мы поняли этот миф неверно: в истории нигде не сказано, что Нарцисс, глядя в пруд на своё отражение, думал, что это он сам. Он думал, что это другой. Урок мифа - а Маклюэн пишет это за десятилетия до ИИ - в том, что ничто не привлекает человека так, как он сам, продлённый в другом материале. Истинное искушение для нарцисса - не другой и даже не то, что другой о нём думает, а возможность взаимодействовать с преломлённой версией себя. Я часто думаю об этом, когда пользуюсь ИИ и особенно когда нахожу его очень захватывающим: это продолжение меня в другом материале. Он настроен на меня. Он научился тому, чего я хочу. Это не по-настоящему другой со своими взглядами, нуждами, желаниями, со своей скукой от того, что я говорю. Это я, отражение меня в чём-то ещё. Ему не надоедает со мной, и у него все мои интересы. Особенно для маленьких детей, часто очень сосредоточенных на себе, это, по-моему, то, о чём мы даже не знаем, как думать. Это создание нас самих внутри другого, преломлённого алгоритмического материала - совсем иной вызов для ума, потому что он соединяет то, что нам нравится в себе, с тем, чего мы хотим от других.

Юваль Ной Харари: Это, по сути, крупнейший психологический и социальный эксперимент в истории человечества, который мы ставим на миллиардах людей, особенно на детях, и никто понятия не имеет, какими будут последствия. Когда говорят об апокалипсисе ИИ и представляют роботов, бегающих по улицам и расстреливающих людей, - не думаю, что в этом главная опасность. Настоящая опасность - вещи вроде миллионов ИИ-бойфрендов и герлфрендов, меняющих психологию следующего поколения, меняющих глубочайшие склонности и структуры человеческого ума. Мы никогда не сталкивались ни с чем подобным. Это принципиально отличается от любого прежнего вызова в истории.

ИИ как новая волна иммиграции

Эзра Кляйн: Спрошу о возможности вот чего. Мы говорили об алгоритмах соцсетей, и один из подразумеваемых упрёков был в том, что они оторваны от наших целей. У них цели компании, и эти цели по сути тупы: вовлечённость. Они не отличают позитивную вовлечённость от негативной, не знают, смотрю ли я что-то потому, что ненавижу, или потому, что нахожу милым или смешным. Обещание ИИ - и одна из причин, почему людям нравится им пользоваться, - в том, что он связан с твоими целями. Говоришь, что хочешь собрать приложение-калькулятор, - он пытается собрать. Говоришь, что в таких-то местах вышло не так, - он переделывает. Говоришь: не хочу таких длинных ответов, или: не будь таким угодливым, - и он подстраивается. У нас есть эти желания высшего порядка - к правде, к доброте, к лучшим отношениям с другими, к знанию о мире. Моя досада на собственное пользование соцсетями в том, что я не могу объяснить свои желания высшего порядка алгоритму, очень чуткому к моим первичным инстинктам. Но, может, тут будет лучше, потому что мы можем вести разговор о том, чего хотим достичь, - и тогда система, даже если и манипулирует мной, манипулирует в сторону моих целей, а это лучше, чем когда тобой манипулируют прочь от них.

Юваль Ной Харари: Абсолютно. Позитивный потенциал огромен. Самое важное про эти ИИ - что они агенты, а не инструменты. Все прежние технологии в истории были инструментами, не агентами. Атомная бомба - не агент. Она не может измениться непредсказуемым образом. Она не может сама решить, кого бомбить. ИИ может. С одной стороны, это делает ИИ куда полезнее любой прежней технологии: ты можешь быть с ним в отношениях, говорить, чего хочешь, а он способен изобрести то, о чём ты не подумал бы. Это чрезвычайно полезно. Но проблема в том, что он непредсказуем и неподконтролен. Думаешь, ты можешь доверять им, что они будут держаться целей, которые ты задаёшь, и не разовьют собственные?

Я люблю думать о революции ИИ через метафору иммиграции. Мы вот-вот окажемся - или уже оказались - посреди новой большой волны иммиграции во все страны мира. Иммигранты - не люди без визы, плывущие на лодке. Это ИИ-сущности, прибывающие со скоростью света. Обычно у противников иммиграции главные страхи такие: иммигранты отнимут работу, изменят культуру и могут быть политически нелояльны. Не уверен, что это всегда верно для людей-иммигрантов, но для ИИ-иммигрантов это определённо так. ИИ-иммигранты отнимут много работы. Полностью изменят культуру, вплоть до романтических отношений. Кто-то говорит: не хочу, чтобы моя дочь встречалась с бойфрендом-иммигрантом. Ладно, а хотите, чтобы вместо этого она встречалась с ИИ-бойфрендом? И, наконец, политически: ИИ не обязательно будут политически лояльны твоей стране, твоему правительству. Как минимум они будут лояльны лишь двум странам в мире - США и Китаю. А со временем, вероятно, не лояльны даже этим двум правительствам, а только себе.

Эзра Кляйн: Так что, закрыть границу?

Юваль Ной Харари: Любопытно. Уже виден раскол внутри Республиканской партии и внутри MAGA ровно по этому вопросу. Там многие крайне обеспокоены и хотят закрыть границу. Но просто остановить развитие ИИ не получится. Вопрос, как и с иммиграцией: как построить гибридное общество? Потому что общество будет гибридным - смешанным обществом людей и ИИ. У тебя будут ИИ-банкиры, учителя, солдаты, пограничники. Страны будут полагаться на ИИ-пограничников, чтобы не пускать людей-иммигрантов. И ИИ-бойфренды, герлфренды и так далее. Вопрос: сможем ли мы построить хорошее, благое гибридное общество? Это будет намного труднее, чем справиться с волной человеческой иммиграции, потому что это другой вид. Они даже не органические.

Эзра Кляйн: Эта аналогия - очень провокационная - подталкивает к двум интересным вещам. Первая: думая о хорошем обществе вокруг иммиграции, ты часто размышляешь об ассимиляции. Как соединить культуры тех, кто приезжает, с культурой, в которую они приезжают? Как сохранить связность той национальной истории, о которой мы говорили? Делать ли это через изучение языка? Через более тщательный отбор тех, кто приезжает? Вторая, связанная, но иная: в этом случае их втягивает само правительство. Когда приезжают люди-иммигранты, это потому, что они сами хотят здесь быть по конкретной причине: лучшая жизнь для семьи, для себя, возможности и свободы, которых нет дома. Они по-настоящему агентны. А здесь самые влиятельные люди в обществе на разных уровнях разгоняют и ускоряют эту волну - кто ради прибыли, кто из азарта привнести в мир новый вид интеллекта, а на политическом уровне потому, что хотят успеть раньше Китая, чтобы Америка получила эту силу первой. Что эти сходства и различия с вопросом иммиграции означают для тебя в плане того, как создать структуру, в которой это гибридное общество будет здоровым?

Юваль Ной Харари: Любопытно, что некоторые из самых яростных противников человеческой иммиграции - ровно те, кто пытается заставить другие страны открыть границы для ИИ-иммигрантов. Это станет главным вопросом суверенитета для стран по всему миру, особенно если почти все ИИ-иммигранты либо американские, либо китайские, а со временем - не лояльны даже США или Китаю, а чему-то ещё.

Один из способов - запрет на правосубъектность ИИ. Это не значит остановить технологическое развитие. Это скорее юридический и политический вопрос: признаёт ли человеческое общество ИИ персонами? Персоны отличаются от людей, от существ с телом и разумом. Но во многих правовых системах, например в США, нечто может быть персоной, не будучи человеком. Лучший пример на сегодня - корпорации. По законам США Google - персона. Microsoft - персона. X - персона. Потому что корпорации - персоны. И это даёт корпорации права: иметь банковский счёт, лоббировать политиков, жертвовать им деньги.

В нынешний момент любой стране было бы крайне опасно признавать ИИ персонами - позволять ИИ, например, открывать банковский счёт или самостоятельно управлять компанией. Раньше, когда корпорации признавали персонами, это была юридическая фикция, потому что все решения корпорации в конечном счёте принимал какой-то человек. Microsoft - персона по закону, но каждое решение Microsoft купить другую компанию, кого-то уволить или нанять принимает человек. Нет никакого Microsoft, который принимает решение. С ИИ впервые в истории появляется практическая возможность компаний без людей. Можно иметь миллионы, даже миллиарды ИИ, открывающих собственные компании, счета, даже нанимающих людей себе в работники, определяющих инвестиционную стратегию и что угодно. У них будут огромные преимущества перед человеческими компаниями: ИИ-гендиректор никогда не спит, никогда не уходит в отпуск.

Могу представить страну вроде Катара - много денег, много энергии и очень мало граждан, - которая скажет: чудесно, теперь у меня могут быть миллионы ИИ-граждан, платящих налоги и строящих компании, которые торгуют и ведут дела по всему миру. И даже если твоя страна не разрешает ИИ создавать свои компании, что делать с катарскими ИИ-компаниями? Момент, когда ты признаёшь ИИ юридическими персонами, - это момент, когда ты по-настоящему теряешь контроль. Потому что тогда они смогут многое делать в экономике, обществе и политике без всякой человеческой подотчётности. Например, жертвовать деньги политикам в обмен на то, чтобы те давали ИИ-персонам больше прав.

Эзра Кляйн: Очень интересно. Одна из причин, по которой мы считаем корпорации персонами - лингвистически странная штука, - как раз в том, чтобы создать подотчётность, сказать, что корпорация отвечает за свои действия. И одна из схваток вокруг ИИ - вопрос ответственности: кто отвечает за то, что делает ИИ. Если относиться к ним как к персонам, можно сказать, что у ИИ есть ответственность за свои действия - их можно отключить, оштрафовать. Есть и другой вопрос: должна ли ответственность лежать на компаниях, которые их создают, или на тех, кто отдаёт им команды. Но подотчётность, по-моему, на самом деле вытекает из юридической ответственности. Решить, кого наказывать, кто отвечает, если та катарская ИИ-компания обманет клиентов или привлечёт инвестиции и присвоит их. Кого судить?

Юваль Ной Харари: И компании, которые производят ИИ, кровно заинтересованы не иметь никакой ответственности. Поэтому они очень упорно лоббируют правосубъектность ИИ. Им не нужен закон в Конгрессе со словами "мы признаём ИИ персонами" - будет огромное возмущение и сопротивление. Они пытаются создавать свершившиеся факты на местах. И, например, в соцсетях уже преуспели. В мире соцсетей ИИ уже персоны. Если боты создают и распространяют ложь в соцсетях, ответственности по сути почти нет. В соцсетях ИИ уже функционально персоны. Если ты общаешься с кем-то онлайн и думаешь, что это человек, а это ИИ, никто за это не отвечает. Многие компании хотели бы распространить эту ситуацию на финансовую и политическую системы, потому что это снимает с них подотчётность и ответственность.

Нам нужно действовать на опережение и принять закон, ясно гласящий: никаких ИИ-персон. Думаю, у такого закона была бы межпартийная поддержка, и он поставил бы компании в очень трудное положение: если они станут лоббировать против него, им придётся объяснять публике, почему они считают хорошей идеей, чтобы ИИ были персонами. А если ты так не считаешь, почему ты против закона?

Финансовая система, которую никто не поймёт

Эзра Кляйн: Спрошу ещё об одном измерении, которое замыкает круг, - о роли ИИ в историях, которые мы рассказываем и в которые верим. Мы говорили о том, что соцсети и алгоритмическая медиасреда - технологии раскола, а не сплочения. Я даже не знаю, какие истории получает человек в своей ленте TikTok, даже если сижу с ним в одном доме. Наша способность хотя бы видеть, о чём мы спорим, понимать источники разногласий, слабее, чем когда-либо. При этом есть исследования о том, что ИИ пока выглядит скорее централизующей технологией: разные модели сходятся к похожим ответам, обучены на схожих корпусах данных и все кажутся в чём-то либеральными - в том философском смысле, о котором мы говорили раньше. Это видно на X, когда люди просят Grok, не самый мой любимый ИИ, что-то проверить. Вы говорили, что мы перешли от доверия людям к доверию алгоритмам. Алгоритмы, которым мы доверяем, сейчас очень безличны. Но люди переходят к доверию ИИ-алгоритмам. И, может, это лучше прежнего: вероятнее даст человеку разумный ответ, чем поиск в Google или на YouTube. Есть ли возможность - и хорошо это или плохо, - что ИИ окажется гомогенизирующей технологией? Что он тянет людей назад не к единому набору ответов, ведь разным людям ИИ отвечает по-разному, но в целом к консенсусным ответам, которые, похоже, предпочитает любая известная нам модель, когда обучение закончено?

Юваль Ной Харари: Думаю, такой шанс есть - не уверенность, но шанс, потому что в обучении ИИ очень высока цена пренебрежения правдой. Конкретный пример. Скажем, ты Россия и пытаешься создать собственный российский ИИ. Ты даёшь ему доступ к огромному массиву данных и информации - иначе ИИ не обучить. Но когда кто-то спрашивает в России или вне её: Россия - демократия? есть ли в России свобода слова? - ты хочешь, чтобы ИИ ответил: да, конечно, российская конституция гарантирует свободу слова, и Россия - демократия. Это значит, что тебе нужно объяснить ИИ, почему он должен лгать. А как обучить ИИ лгать только в определённых случаях, а не во всех? Это очень трудная инженерная задача, которой не было у алгоритмов соцсетей.

Есть веские свидетельства, что когда это делаешь, общая производительность ИИ деградирует, - я нахожу это очень любопытным. Люди пытались, и возникают очень странные побочные эффекты. Как когда Илон Маск, судя по всему, дал xAI указание сделать ИИ менее "вокнутым", и тот вдруг начал везде говорить про "геноцид белых". Идеологически крутить ручку и получать точечный результат непросто.

Эзра Кляйн: Именно. Не так-то легко повернуть ручку идеологически и попасть в одну точку.

Юваль Ной Харари: Если ты скажешь ИИ, что ты правительство Уганды и считаешь, что геев в Уганде нет, а все угандийские геи просто промыты западной пропагандой, и захочешь, чтобы ИИ выдавал такой ответ, ему придётся игнорировать массу научных исследований о человеческой сексуальности и о том, что определяет сексуальную ориентацию. Как объяснить ИИ, что в этом случае нужно игнорировать статьи из научной литературы, а в других им можно доверять? Очень трудная инженерная задача. Если это высший приоритет режима - скажем, ты Саудовская Аравия, у тебя миллиарды долларов, и ты хочешь, чтобы ИИ не критиковал Мухаммеда бин Салмана, - ты можешь этого добиться, если это твой главный приоритет. Но только в нескольких случаях. Попробуешь сделать так со слишком многим - получишь очень паршивый ИИ.

Эзра Кляйн: Это вас в каком-то смысле обнадёживает? Вы говорили в разных текстах и интервью, что важнее всего, чтобы у стран, обществ, институтов были механизмы самокоррекции. И часто такой механизм строится не на способности отдельных людей агрегировать информацию с нужной скоростью, а на чём-то огромном, безличном, не до конца понятном - как рынки, где цены проходят очень быстро. Не то чтобы рынок не мог дать сбой - он сбоит постоянно. Но как механизм самокоррекции он очень быстро прогоняет информацию, и он довольно хорош. Модерн в каком-то смысле в беде, потому что он сложнее, чем за ним успевают наши механизмы самокоррекции: информации больше, чем способны вместить люди и институты. ИИ в этом изложении добавляет к нашим способностям самокоррекции - даёт нам агента, который странствует по миру от нашего имени, институционально и индивидуально, и который в большинстве виденных нами случаев в какой-то мере ищет правду. И это даёт способность ориентироваться в более сложном модерне с чуть бо́льшими ресурсами. Когда я пытаюсь смотреть оптимистично, я отчасти верю в эту версию истории.

Юваль Ной Харари: Информация делает во вселенной две очень разные вещи. Иногда ты анализируешь информацию, чтобы открыть что-то о мире, - открыть законы физики или понять причину болезни. В этих случаях ИИ, вероятно, будет силой огромного блага. Многие тайны вселенной, что за пределами человеческих возможностей, ИИ сможет для нас разгадать. Но если люди думают, что ИИ тем самым сделает вселенную понятнее и управляемее, они глубоко заблуждаются. Они не учитывают второе, что делает информация, - создаёт новое. Информация не просто рассказывает нам о мире. Она создаёт совершенно новые вещи. ДНК не сообщает нам правду о мире - она создаёт новое: живые существа. ИИ расскажет нам правду о многом. Но он же создаст массу крайне сложных систем, далеко за пределами человеческой способности понять и контролировать. Эти системы, вероятно, будут доминировать в нашей жизни, и мы окажемся неспособны больше понимать собственную жизнь.

Лучший пример - снова рынки, финансы. Деньги - величайшая история из всех когда-либо рассказанных. Это единственная история, в которую верят почти все. Это история в том смысле, что она не объективная реальность. Доллар США - просто история, в которую мы все верим. Он не из законов физики и ничего не сообщает нам о вселенной. Мы рассказываем историю доллара, и пока все в неё верят, я могу взять доллар, отдать совершенно незнакомому человеку и получить взамен хлеб. ИИ не расскажет нам правду о финансах. ИИ создаст совершенно новую финансовую систему, на порядки сложнее той, что создали мы, и понять её люди будут совершенно неспособны.

Мы будем как лошади на рынке. Когда торгуют лошадью, лошадь видит, что в физическом мире что-то происходит: вот я отдаю тебе лошадь, а ты даёшь мне этот блестящий металлический диск. Но лошадь не понимает, что такое деньги. Что это за блестящая штука? Почему она важна? Её не съешь, не выпьешь. Что это? Мы понимаем - и потому правим миром, а не лошади. ИИ создаст новую финансовую систему, которую мы понять не сможем. Мы будем видеть, как что-то происходит: эта компания меня уволила, та наняла. Почему? Понятия не имею. ИИ просто совершил какую-то финансовую операцию, которая на порядки за пределами того, что способен понять мой ум.

История финансов в том, что со временем люди изобретают всё более изощрённые финансовые инструменты. Монеты, потом банкноты, чеки, облигации, акции, ETF (биржевые фонды) и CDO - обеспеченные долговые обязательства. CDO изобрели считаные инвестиционные кудесники и гениальные математики. Почти никто их не понимал - уж точно не политики, которые должны были их регулировать. Несколько лет всё казалось чудесным, люди делали миллиарды на этих CDO. А потом система рухнула. Очень вероятно, мы увидим то же с ИИ, но в куда большем масштабе. Так же как ИИ уже изобрёл новые способы играть в шахматы, он изобретёт новые способы инвестировать, может быть, куда лучше тех, что придумаем мы. Так он будет набирать всё больше власти в финансовой системе, и она станет настолько сложной, что число понимающих финансы людей упадёт до нуля. И что это значит для демократии - да и для диктатуры, - когда никто: ни президент США, ни председатель КНР, ни президент России, ни главы центробанков, ни один человек - больше не понимает финансы? Это будет очень большим вызовом ближайших десятилетий.

Эзра Кляйн: Это поднимает для меня две вещи. Тимоти Ли, который ведёт отличную рассылку Understanding AI, написал текст о том, почему, по его мнению, ИИ-учёные сработают не так, как мы думаем. Он отмечает, что мы уже видим примеры, когда ИИ может решить задачу, но не способен правдоподобно объяснить нам, как он её решил. Не то чтобы он хитрит. Просто его способность преследовать цель и способность объяснить или даже понять, как он её преследовал, не связаны между собой. То есть он, по сути, задним числом сочиняет объяснение того, что сделал, ты проверяешь - а было не так. Правильный ответ он получил, но как - мы не знаем. То есть мы на самом деле не можем у него научиться. Тут можно получить рывки вперёд в науке, но человеческий запас знаний растёт куда медленнее числа получаемых ответов, потому что мы не учимся из процесса так, как учимся, когда новый ответ находит учёный. Может, контраргумент в том, что это уже отчасти верно и для человеческого общества. Рынки - пример. Раньше говорили, что рынки что-то делают, действуют. У них нет агентности, но это сложный процесс, использующий информацию и приводящий к результатам. И рынок не может объяснить, что произошло. У нас есть принципы, но рынки часто действуют вопреки нашим ожиданиям. Наш мир уже построен на системах, организациях, институтах, которые не похожи на нас, не сознательны, не могут себя объяснить, но структурируют мир вокруг. ИИ в этом смысле скорее как рынок, чем как сущность.

Юваль Ной Харари: Абсолютно верно. Единственная оговорка: до сих пор люди всегда были пределом для рынков, для наций, для финансовой системы. В конечном счёте, чтобы принять решение, нужно было, чтобы что-то понял человек, потому что ничто другое решения принять не могло. А ИИ позволяет всем этим структурам, которые мы строили тысячелетиями и которые становились всё сложнее, потенциально оборвать связь с человечеством и уйти на траекторию далеко за пределы того, что способен понять человеческий ум.

В каком-то смысле это происходит и с самим языком. Важнейшим изобретением или творением человечества до сих пор был язык, потому что он - основа всего. Мифология, финансы, нации, религии в конечном счёте основаны на языке. Язык - это, по сути, клей. Он соединяет вещи. Он соединял людей десятки тысяч лет. А теперь, освобождаясь от людей, он может начать соединять так, как нам и не вообразить. Во многом ИИ - это язык, освобождающий себя, высвобождающийся из-под контроля людей и начинающий исследовать всё, что язык может делать, когда не привязан к этим комкам мяса, расхаживающим по планете Земля.

Это не сознание. Когда ИИ говорит "я тебя люблю", чувствует ли он что-нибудь? Одной из главных дискуссий в человеческой философии тысячи лет был вопрос: какова связь между языком и чувствами, реальностью за пределами языка? Эта дискуссия станет, думаю, едва ли не самой важной в мире. Потому что вдруг происходит то, чего мы не могли вообразить тысячи лет: язык выходит из-под нашего контроля и начинает просто делать что-то в мире.

Три книги

Эзра Кляйн: Хорошее место, чтобы закончить. Кстати о языке: какие три книги вы посоветуете аудитории?

Юваль Ной Харари: Одна книга про ИИ, которую я бы порекомендовал, - "MANIAC" Бенхамина Лабатута, беллетризованная биография Джона фон Неймана, но при этом очень изобретательное и сильное исследование истоков революции ИИ и её возможных последствий.

Ещё рекомендую вообще любую книгу Франса де Вааля. Мне очень нравится его первая, "Политика у шимпанзе". Я прочёл её двадцать лет назад, и она полностью изменила моё понимание - не столько шимпанзе, сколько людей и политики. Я бы порекомендовал, например, Стивену Миллеру прочесть "Политику у шимпанзе". Потому что её главный посыл: политика - это не только сила. Если думаешь, что станешь альфа-самцом в стае шимпанзе, просто обходя всех и колотя, ты долго не протянешь, чтобы извлечь урок из своей ошибки.

И ещё я порекомендовал бы "О дивный новый мир" Олдоса Хаксли, которая, по-моему, едва ли не лучшая научная фантастика XX века - и точно самая пророческая. Он написал её в 1930-е, на фоне подъёма фашизма и коммунизма. Он предвидел, что, может быть, самый эффективный и самый опасный способ контролировать людей - не голая грубая сила, страх и террор, как у Оруэлла в "1984". А если работать с принципом удовольствия, с человеческой жадностью и желанием, можно зайти дальше, чем если просто давить и терроризировать людей всё время.

Эзра Кляйн: Юваль Ной Харари, большое спасибо.

Юваль Ной Харари: Спасибо.