Харарі: "Якщо ставиш тільки на силу, доведеться завоювати весь світ"

Стівен Міллер любить повторювати: світом правлять сила і влада, і це залізні закони від початку часів. Історик Юваль Ной Харарі, автор "Sapiens", вважає це головним самообманом епохи - і помилкою, на якій раз у раз згорають "сильні лідери". Путін був певен, що візьме Україну за 48 годин. У розмові з Езрою Кляйном Харарі пояснює, чому ставка лише на силу завжди закінчується імперією і безкінечними війнами, як руйнується табу на захоплення чужих країн і чому найнебезпечнішу хвилю "імміграції" в історії несе ШІ, який вчиться зламувати людську психіку швидше, ніж ми встигаємо захиститися.

Езра Кляйн: Юваль Ной Харарі, ласкаво просимо.

Юваль Ной Харарі: Дякую, радий бути тут.

Езра Кляйн: Хочу почати з фрагмента виступу Стівена Міллера, заступника глави апарату Білого дому з політики за Дональда Трампа. Я думав про нього, коли перечитував ваші недавні роботи.

Архівний запис Стівена Міллера: Можете скільки завгодно розмірковувати про міжнародні пристойності і таке інше, але ми живемо у світі - у реальному світі, Джейку, - яким правлять сила, міць і влада. Це залізні закони світу, що існують від початку часів.

Езра Кляйн: Що ви думаєте, коли це чуєте?

Юваль Ной Харарі: Що вся історія філософії і духовності - це суперечка саме з цією точкою зору. Нібито єдина реальність - сила. Єдина реальність - міць. З погляду історика очевидно: це не так.

Якби єдиною людською реальністю була груба сила, ми б досі жили крихітними групами мисливців-збирачів в африканській савані. Адже вся історія людини - про те, як змусити дедалі більше людей співпрацювати і довіряти одне одному, а самою грубою силою цього не досягнеш.

Сила чи співпраця

Езра Кляйн: Хочу затриматися на цьому напруженні - між поглядом на співпрацю як на рушійну силу історії і поглядом на силу як на її рушійну силу. Якщо спробувати вибудувати максимально сильну версію позиції, яка йде від адміністрації Трампа і близьких до неї політиків, вони скажуть так: умовами для співпраці завжди були спільні національні та релігійні історії плюс ієрархія, влада, домінування і підкорення. І що вони якраз намагаються відтворити ті самі умови, які дозволили великим країнам стати великими.

Людям це подобається. Але є й інший вимір - ваша робота багато в чому про спільну історію, про наратив як операційну систему, на якій тримається співпраця людей у великих масштабах. Такі люди, як Трамп - або в Ізраїлі філософ-націоналіст Йорам Хазоні, - стверджують, що нам потрібні ці потужні історії про нації, про етнічну і релігійну солідарність. А лібералізм і всі ці симпатичні ідеології довкола прав людини почали їх роз'їдати. Тобто роз'їдають самі умови для співпраці. Як ви, людина, яка варилася в цих суперечках, про це думаєте?

Юваль Ной Харарі: Це вже інший аргумент. Він визнає, що не все тримається лише на силі та грубій міці.

Безумовно, націоналізм - одна з найуспішніших і водночас одна з найпозитивніших історій, що їх будь-коли вигадали люди. Для мене націоналізм не про ненависть до інших груп. По суті націоналізм - це про любов і турботу про безліч незнайомців, яких ти особисто не знаєш, але заради яких готовий іти на великі жертви.

Нація - це не родина і навіть не маленьке плем'я. У маленькому племені ти знаєш усіх, усе будується на особистих зв'язках. З націями ж вражає ось що: ти не знайомий з 99,99 відсотка решти людей своєї нації. Це правда не лише для великих націй на кшталт Китаю чи Індії - це правда і для Ізраїлю. Ізраїльтян близько 10 мільйонів, і більшості я не знаю. І все ж націоналізм змушує людей настільки дбати про цих незнайомців, що, скажімо, ти платиш податки, щоб інші у твоїй нації отримували добру медицину й освіту, - а за певних обставин навіть ризикуєш заради них життям.

Іноді, звісно, націоналізм скочується в ненависть до чужих, але це не його обов'язкова риса. Націоналізм може існувати без ненависті до чужинців. Але він не може існувати без любові до своїх.

Багато хто з тих, хто сьогодні виставляє себе поборником націоналізму, робить ставку саме на ненависть, а в багатьох випадках створює ненависть і всередині нації. Вони розколюють націю проти неї самої. Їм здається, що вони великі патріоти, якщо ненавидять чужих. Якщо знову взяти Ізраїль: ніхто в історії Ізраїлю не розколював націю проти неї самої сильніше за Нетаньягу. І в цьому сенсі він виявився найгіршим ворогом ізраїльського націоналізму. Так, він ненавидить чужих, але це не головний критерій.

Далі питання в тому, як різні нації вибудовують відносини. Усе починається з безпеки і зовнішньої політики. Трампівський погляд, цілком про силу та ієрархію, по суті каже: міжнародну систему треба влаштувати так, щоб слабкі завжди поступалися вимогам сильних. Тоді у нас порядок, тоді навіть мир.

Тобто якщо США вимагають Гренландію, Данія має визнати реальність і віддати Гренландію США. А якщо Данія відмовиться і через це станеться насильство, війна, конфлікт - винна Данія, бо не визнала реальність і не віддала сильному те, що він вимагає. Ось їхня логіка. Ось як вони бачать світ.

Залишимо осторонь мораль - проблема все одно лишається. Передусім, усі нації тоді змушені ставати сильними, бо слабкою нацією в такому світі не вижити. І всі нації змушені вкладати дедалі більше ресурсів в армію.

Більшу частину історії величезна частка бюджету будь-якого королівства, імперії, республіки, міста-держави йшла - точніше, марнувалася - на солдатів, фортеці, військові кораблі тощо, і при цьому ніхто не почувався в безпеці.

Одне з див міжнародної системи останніх десятиліть - і це не пацифістські вірші, а державні бюджети: якщо подивитися на цифри, на початку XXI століття в середньому близько 6-7 відсотків держбюджету йшло на оборону проти в середньому 10 відсотків на охорону здоров'я. Уперше в історії людство витрачало на здоров'я більше, ніж на оборону. Люди почувалися в більшій безпеці, ніж будь-коли раніше, бо існувало табу на вторгнення і захоплення чужих країн силою.

Якщо ми зараз зламаємо це табу, воно змусить усіх озброюватися до зубів коштом медицини, освіти, соціальної сфери - і безпечніше зрештою не стане нікому. Адже країни і лідери постійно прораховуються. У В'єтнамській війні американці думали, що вони сильніші. Виявилося, помилилися. Путін був певен, що розчавить Україну за 48 годин. Помилився.

Тож підхід, за якого мир і порядок тримаються на ієрархії сильних і слабких, де слабкий завжди підкоряється сильному і тим купує мир, - його пробували тисячоліттями, і ми знаємо, до чого він веде. Він веде, з одного боку, до імперії - а з іншого, до безкінечних воєн. І зараз ми просунулися цією дорогою далі, ніж будь-коли за мого життя.

Що сталося з ліберальним порядком

Езра Кляйн: Ви називали глобальний ліберальний порядок, здається, найвражаючим політичним і, можливо, моральним досягненням людства.

Юваль Ной Харарі: Так.

Езра Кляйн: А сьогодні людям так не здається. Цей порядок розчинився в мові бюджетів, у реальності бюрократії. Яку історію колись розповідав лібералізм як міжнародна сила і що, на вашу думку, з нею сталося?

Юваль Ной Харарі: Базова історія - про спільний досвід, спільні інтереси і співпрацю. У XX столітті було три великі історії.

Була фашистська: історія - це змагання, конфлікт між націями чи расами, і вирішує його сила. Зрештою найсильніша нація чи раса переможе всіх і завоює світ.

Була комуністична, яка погоджується з цим, але переносить конфлікт із рас і націй на класи. Є неминучий конфлікт між класами, він буде насильницьким і завершиться перемогою робітничого класу, який встановить диктатуру пролетаріату.

А потім прийшов лібералізм і сказав: історія взагалі не зобов'язана бути про конфлікт - ні між націями, ні між класами. Вона може бути про співпрацю. Чому? Бо всі люди, до якої б раси, нації чи класу не належали, по суті однакові. Є невеликі відмінності в тому, як ми виглядаємо, у мовах, релігіях тощо, але по суті ми один вид. У нас однакові біологічні потреби і приблизно однакові психологічні - принаймні глибинні: бути любленим, бути визнаним. У нас спільні інтереси, і якщо ми це визнаємо, то в багатьох випадках розумніше співпрацювати, ніж змагатися і битися. Співпрацюючи, ми можемо побудувати світ, кращий для всіх. Ось базова ліберальна історія.

На 2026 рік можна озирнутися і сказати: вона провалюється. Не провалилася повністю - за багатьма показниками ми досі живемо, ймовірно, у найкращий час в історії. Але вона руйнується. Це як чудовий будинок, у якому живе все людство: системи нібито ще працюють - вода, каналізація. Ніхто за ними більше не стежить, але збудовані вони були так надійно, що навіть без догляду поки що функціонують. Та якщо в будинку роками ніхто нічого не лагодить, рано чи пізно він завалиться - і тоді вже пізно.

Езра Кляйн: Мені видалося цікавим ваше зауваження, що обидві головні ідеології-конкурентки XX століття вірили в кінець конфлікту. Не просто в конфлікт - у те, що в якийсь момент настане перемога. А лібералізм в одній своїй версії вірить у співпрацю. Але в іншій, про яку ми сьогодні говоримо менше, один із його центральних постулатів - що конфлікт буде завжди. Розбіжності неусувні і не мають бути усунені до якогось кінцевого стану. Питання в тому, як нам жити разом - і всередині нації, і як глобальна спільнота - серед цих відмінностей, лишаючи їм місце, але не даючи їм перерости в війну, гноблення, гоніння.

Юваль Ной Харарі: Це дуже важлива думка. Лібералізм не вірить у викуплення. Візьміть великі історичні візії релігій - християнства, ісламу, юдаїзму; візьміть світські ідеології на кшталт фашизму і комунізму - усі вони вірять у викуплення. Усі вірять, що зрештою історія прийде в кінцеву точку, де все стане ідеально.

Лібералізм у це не вірить. Викуплення немає - принаймні на землі. Завжди будуть проблеми, напруження, конфлікти, і питання в тому, як із ними жити. Тому лібералізм так багато вкладає в те, що я вважаю найважливішою річчю в будь-якій великій людській системі, - у механізм самокорекції.

Якщо ти віриш, що твій погляд на світ даний тобі Богом, помилки в ньому бути не може. Механізм самокорекції непотрібний - адже помилок немає. Лібералізм же виходить із того, що це просто люди стараються як можуть, а отже, будуть промахи і помилки, і потрібні сильні механізми їх виправлення. Найвідоміший - вибори. Раз на чотири, п'ять років народ може сказати: гей, минулого разу ми помилилися, спробуймо інакше. А всі ці складні системи стримувань і противаг, незалежні суди, свобода преси - лише хитрий спосіб забезпечити країні надійний механізм самокорекції.

Чому вигадка сильніша за правду

Езра Кляйн: Ви стверджуєте, що для співпраці вигадка часто корисніша за правду. Чому?

Юваль Ной Харарі: По-перше, правда дорого коштує. Щоб дізнатися правду, щоб створити правдиву історію, треба вкласти багато часу і сил у її дослідження. Вигадка дешева, і її можна зробити скільки завгодно простою. Люди люблять прості історії, спрощені наративи на кшталт "добро проти зла". Ми на 100 відсотків хороші, ми ніколи в історії не робили нічого поганого. Вони на 100 відсотків злі, ніколи не робили нічого доброго. Дуже просто, дуже привабливо.

Правда не просто складна - правда часто болісна. А вигадку можна зробити скільки завгодно влесливою: ми ніколи нікому не завдавали зла, ми прекрасні. Тому вигадка зазвичай куди сильніша як історія. І ще: коли треба підняти людей на дію, ти не хочеш, щоб у них були сумніви. Тобі треба, щоб вони горіли, були віддані на 100 відсотків. З вигадкою в цьому сенсі працювати простіше.

Езра Кляйн: Чи означає це, що суспільства, рухи, інституції, які стали надто одержимими пошуком правди, опиняються в довгостроковому програші? Зрозуміло, що не мати правди - проблема. Але, виходить, мати її забагато - теж проблема?

Юваль Ной Харарі: Так. Абсолютна відданість пошуку істини - це духовна практика, але дуже й дуже важка політична програма.

Є різниця між брехнею і вигадкою. Ти брешеш, коли знаєш, що дещо неправда, і все одно це кажеш чи підтримуєш. У багатьох випадках ідеал, як на мене, у тому, щоб визнавати: ми використовуємо вигадки, щоб підтримувати наше суспільство.

У цьому, я б сказав, різниця між США і багатьма іншими могутніми країнами в історії. Конституція США починається зі слів "Ми, народ". Ми, народ, зібралися і погодилися з цим текстом, із цими принципами. Вони йдуть з нашого розуму, це наше творіння. Слово "вигадка" вона, звісно, не вживає, але під вигадкою я розумію те, що не об'єктивне: не із законів фізики, не від Бога. Ми це винайшли.

Конституція США чесно каже: ми винайшли ці принципи, і вони, вважаю, добрі, але оскільки ми визнаємо, що самі їх вигадали, ми, народ, то включаємо і механізм поправок. Ми визнаємо, що ми лише люди. Може, ми вигадали щось неоптимальне. Може, з часом усе зміниться. Тому в нас є механізм змінити історію пізніше. І ми, батьки-засновники, вважаємо, що рабство - це нормально, але на той дивний випадок, якщо хтось у майбутньому вважатиме, що це не нормально, у них є механізм поправок.

Порівняйте з релігією. Візьмімо Біблію, Десять заповідей. Вони починаються не з "Ми, народ Ізраїлю". Вони починаються з "Я Господь, Бог твій" - і тому в них немає механізму поправок. Придивіться: Десять заповідей схвалюють рабство. Десята заповідь - "не побажай". Чого не бажати? Далі список: поля ближнього твого, вола його, а також рабів його. Десять заповідей кажуть людям, що мати рабів - нормально. Просто негарно бажати чужих рабів - тоді Бог розгнівається. І змінити це не можна, бо текст видає себе не за людське творіння, а за божественне одкровення.

Езра Кляйн: Тут є цікаве напруження. Можна побудувати критику лібералізму - принаймні нинішнього: він добрий у створенні механізмів, інституцій, правил, бюрократій, але за самою своєю природою поганий у створенні довговічних історій - почасти тому, що в сучасній формі він добряче секуляризований. Релігія ж була найпотужнішим джерелом співпраці, утримуючи людей разом і в моменті, і в роботі заради майбутнього, до якого вони можуть не дожити.

Є питання націоналізму і національної історії, яку лібералізм як самокорегувальна ідеологія часто піддає критиці, - і тоді втрачається частина національної зв'язності, адже ти сперечаєшся про минуле своєї країни і про те, що вона зробила правильно і неправильно. Ви людина, яка дуже глибоко думає про історії. Для вас це слабкість розвинених, секуляризованих ліберальних демократій? Вони втрачають ту спаяність, що в довгій перспективі робить їх конкурентоспроможними проти ідеологій, які, може, і не вміють будувати бюрократії та ефективно керувати, але розповідати історію вміють збіса добре?

Юваль Ной Харарі: Так, це центральна проблема лібералізму. Але я б не потрапляв у пастку уявлення про релігії як про споконвічну скріплювальну силу. Я медієвіст, моя первісна царина - Середньовіччя.

За часткою населення, що загинуло на війні, чи не найгіршою війною в європейській історії була Тридцятилітня. Якщо коротко - війна між протестантами і католиками в Центральній Європі. Католики і протестанти були готові різати одне одного через крихітні відмінності в тлумаченні релігії любові. Лібералізм почасти виріс із розчарування людей у релігії, яка постійно плодила дедалі нові конфлікти і розколи.

Подивіться на сьогоднішню Німеччину: майже нікого не хвилює, протестант чи католик людина, яка балотується в канцлери. У цьому сенсі лібералізм - вдаліша основа для об'єднання великої і різноманітної групи людей просто тому, що він гнучкіший. Історія, знову ж таки, складна: наприкінці немає викуплення, вона не тримається на харизматичному вожді. Вона тримається на дуже складних, безособових, самокорегувальних механізмах, бюрократіях та інституціях. І в цьому сенсі вона менш приваблива.

Ми живемо в момент кризи лібералізму. Одна з причин у тому, що за останні десятиліття лібералізм багато в чому втратив зв'язок із тим, що поколіннями було його близьким союзником, - із націоналізмом. У XIX столітті лібералізм і націоналізм ішли пліч-о-пліч. У деяких місцях світу вони й сьогодні йдуть разом - наприклад, в Україні. Українці воюють водночас за національне виживання і незалежність і за ліберальну демократію. Між цими двома речами немає суперечності.

Я б сказав, що з 1789 року в політичній сфері ніхто не придумав нічого принципово нового. Французька революція видала складний ідеологічний пакет: свобода, рівність, братерство. Про третє зазвичай забувають - про братерство. Братерство - це національна спільнота. І можна сказати, що вся політична історія з 1789 року - це експерименти з різними комбінаціями цієї трійці. Будь-який рух, що намагався цілком відкинути одне з трьох, провалювався. Фашизм був увесь про братерство - без рівності, без свободи. Комунізм робив наголос на рівності коштом свободи і почасти братерства. Одне з пояснень того, що відбувається з лібералізмом в останні десятиліття: він зосередився на рівності й свободі, але схильний був забувати про братерство, і це виявилося неспроможним.

Езра Кляйн: Мені дуже цікаво, що ви прийшли саме сюди. Кумедно: я кружляв довкола схожого у своїх подкастах і роботах про лібералізм. Рання чеснота, пов'язана з лібералізмом, - це великодушність (liberality), і вона, як на мене, прямий родич братерства: етика взаємної поваги і щедрості до співгромадян. І ви додаєте до цієї історії, що вона має спиратися на якусь національну історію - що підтримувати спаяність у національній спільноті важко, щойно ти перестав вірити у зв'язок, який тебе з іншими поєднує.

Юваль Ной Харарі: Так. Тут важливо підкреслити ось що: лібералізм втратив зв'язок із братерством тому, що деякі люди розповіли про братерство дуже негативну історію - подали його передусім через конфлікт з іншими спільнотами, нібито братерство в тому, щоб ненавидіти інші нації і воювати з ними. Але якщо пам'ятати, що суть братерства - турбота і любов до певної групи людей, це не вимагає ненависті до чужих. Це лише означає особливі стосунки з певною групою: спільну історію, спільну культуру, спільну мову. Намагатися відмахнутися від цього - означає ігнорувати історію. Так, у нас є зобов'язання перед усім людством, але це не виключає особливих зобов'язань перед його частиною - так само як у тебе є особлива вірність родині, що перевищує те, що ти винен співгромадянам чи іноземцям.

Чи може страждати нація

Езра Кляйн: Я бачив ваш аргумент, що обмежувальне питання до історій, які ми розповідаємо, має звучати так: чи страждає хтось через цю історію?

Юваль Ной Харарі: Думаю, мораль зрештою про страждання - і про звільнення від нього і про щастя. Чи може страждати нація? Ми часто так висловлюємося, але це лише метафора. Якщо країна програє війну, вона насправді не страждає. У неї немає мозку, немає нервової системи, немає розуму. Вона не відчуває ні болю, ні задоволення. Страждати можуть лише окремі люди.

Езра Кляйн: Але нація, навіть у цьому викладі, - механізм розповідання історій, що захищає пов'язану нею групу. Візьмімо те, що вам ближче: історія, яку ізраїльські євреї розповідають про палестинців, - не в тому, що ті не страждають. Вона в тому, що страждання заслужене - через те, кого вони обрали або хто ними править, і колективної за це відповідальності, - або що страждання є прикрою необхідністю заради безпеки Ізраїлю, а хто це заперечує, той наївний. Це зіткнення довкола страждання: можливо, твоє страждання необхідне заради моєї безпеки і добробуту.

Юваль Ной Харарі: Так. Очевидно, у світі є важкі моральні конфлікти. Не завжди, але іноді є компроміси з втратами. І твердження, що вся мораль зрештою про страждання, не змушує моральні дилеми зникнути.

Але ось що я спостерігав в Ізраїлі в недавньому конфлікті: багатьом ізраїльтянам просто важко визнати, що палестинці страждають. Розумом вони це знають. Але в багатьох випадках вони просто не можуть це бачити. Покажеш їм світлини голодної дитини в Газі - і вони скажуть: це фейк. Або миттєво переведуть розмову на інше: це через ХАМАС.

Якщо сказати їм: мені байдуже, чи здатні ви хоча б на кілька секунд просто побути тут і визнати, що ось людина, яка страждає, - їм це дається вкрай важко. Навіть якщо сказати: Ізраїль має рацію на 100 відсотків, провина за те, що відбувається в Газі, на 100 відсотків на ХАМАС, усе, що робить Ізраїль, абсолютно правильно. Раз це так правильно, так справедливо, вам має бути легко побачити наслідки вашої бездоганної справедливості. Ось, просто погляньте на це зображення. Та дуже багато хто просто не може.

Ізраїль і 2000 років навчання

Езра Кляйн: Ви казали, що те, що відбувається зараз в Ізраїлі, може, по суті, перекреслити дві тисячі років єврейської думки, культури й існування. Що ви мали на увазі?

Юваль Ной Харарі: Історично - і це повертає нас до початку розмови - юдаїзм, принаймні від часів зруйнування Другого Храму, вибудовував себе на противагу погляду на світ як на керований самою лише грубою силою.

Коли римські легіони Веспасіана зруйнували Єрусалим у 70 році н.е., Йоханан бен Заккай попросив у Веспасіана послугу: дай мені невелике місто Явне - біля нинішнього Тель-Авіва, - де він хотів заснувати центр ученості. Веспасіан погодився: гаразд, євреї, буде вам ваш центр ученості. І відтоді дві тисячі років євреї в Явне, потім у Каїрі, Багдаді, Польщі, Брукліні навчаються і вивчають. У цьому була суть юдаїзму. Раніше це була релігія храмів, жерців і кривавих ритуалів, а потім вона стала релігією навчання.

Якщо спробувати сформулювати, мабуть, найважливіше послання євреїв людству за останні дві тисячі років, я б сказав так: можна бути іншим. Можна думати і поводитися інакше, ніж більшість. Є країна на кшталт Франції чи Німеччини - там святкують Великдень і Різдво, вірять в Ісуса. І є ця крихітна меншина євреїв, яка каже: ми можемо думати інакше, це нормально, можемо поводитися інакше. У цьому була суть єврейства. Багато що в осмисленні і в практиці того, що означає свобода думки, що означає бути безправною меншиною, зробили єврейські мислителі. Дві тисячі років євреї по всьому світу вважали навчання і пізнання найвищою духовною діяльністю.

І ось через дві тисячі років ти їх питаєш: чого ви навчилися? Ви вчилися дві тисячі років. Чого? А люди на кшталт Нетаньягу відповідають: о, ми навчилися, що треба бути римлянином, що треба бути сильним, будувати легіони, руйнувати міста. Що тільки це в житті й важить. Це легітимна система цінностей, Рим був по-своєму корисний. Але якщо через дві тисячі років євреї просто стають римлянами, то в чому був сенс? Навіщо тоді втратили дві тисячі років - можна було одразу стати римлянами. Це обнуляє всю єврейську історію.

Езра Кляйн: Але хіба не було в ранньому сіонізмі задуму створити нового єврея - не блідого інтелектуала з меншини з книгою, а сильного, який працює на землі, здатного воювати і себе захистити?

Юваль Ной Харарі: Так, ідея була в тому, що можна поєднати спадщину юдаїзму з роботою на землі, з будівництвом армії і країни. Може, це просто було помилкою, і зрештою довелося обирати: хочеш ти бути Веспасіаном і командувати легіоном чи Йохананом бен Заккаєм - навчатися і розвивати духовну сторону, і одне з одним несумісне.

Езра Кляйн: Ви зараз так вважаєте - що суперечність неусувна?

Юваль Ной Харарі: Не знаю. Історія - процес дуже складний і несподіваний. Не думаю, що є вроджена суперечність між силою і справедливістю чи між розвитком сили і розвитком духовної мудрості. Але поєднати їх дуже важко. Спокуси влади величезні, і мало хто з людей і рухів в історії зумів їм протистояти. Тож не надто дивно, але все одно гірко.

Езра Кляйн: Це був період, коли я спостерігав, як серед американських євреїв виник глибокий розкол. Думаю, одна з причин, чому це так болісно, у тому, що він зіштовхнув дві форми традиції і думки юдаїзму одна з одною. Є традиція чужинця. Одна з причин, чому євреї так багато дали розвитку сучасного лібералізму, правозахисного права, плюралізму, значної частини політичної теорії і законотворчості, - тісний зв'язок із єврейським досвідом: єдиний спосіб для єврейської діаспори бути в безпеці - жити в суспільствах, які в основі ліберальні і не етнонаціоналістичні. А в Ізраїлі серед євреїв є погляд, що для безпеки цього суспільства і для того, щоб воно лишалося собою, воно має ставати дедалі етнонаціоналістичнішим. Зараз не завжди визнається, що традиція певною мірою обернена проти себе самої. Була надія, що це уживеться через рішення про дві держави чи інакше, але в міру того як цей варіант перестає розглядатися, а Ізраїль рухається в етнонаціоналістичнішому напрямі, традиція та її втілення опиняються в прямому конфлікті.

Юваль Ной Харарі: Так, це дуже точне формулювання. Вони, звісно, спираються на біблійний юдаїзм, а це була зовсім інша релігія, ніж та, що розвинулася за дві тисячі років у діаспорі. Біблійний юдаїзм був дуже жорстокою, дуже неліберальною, дуже нетерпимою релігією. Для свого часу, ймовірно, найнетерпимішою у світі. У Біблії є заповідь винищити весь народ Ханаану. Є глибока нетерпимість до релігій, обрядів і вірувань усіх інших народів.

У давнього світу свої жахи, але в релігійному сенсі він був дуже терпимим місцем. Політеїстичні релігії, що вірили в багатьох богів, без проблем приймали релігії і богів інших народів і навіть почасти їх практикували. Візьміть Римську імперію: римляни без проблем приймали богів і релігії сотень підкорених народів. Вони не намагалися їх викорінити - у багатьох випадках переймали. Як римлянин, ти міг уранці піти в храм Юпітера, потім у храм єгипетської богині Ісіди і заразом послухати про цього нового бога зі Близького Сходу. Ти відкритий.

Юдаїзм відкритою релігією не був. Це почасти змінилося, коли євреї опинилися крихітною меншиною під владою інших релігій і традицій, що змусило їх виробити відкритіший і терпиміший світогляд. Але тепер ці дві тисячі років терпимої єврейської традиції повністю заперечуються і руйнуються.

Езра Кляйн: Америці з інших країн часто дорікають: якби в нас по океану з двох боків, Канада на півночі і Мексика на півдні, ми теж могли б застосовувати силу м'яко і щедро. Але реальність життя - з ізраїльсько-єврейського погляду - там, де з єврейських домівок на півночі видно "Хезболлу", реальність країни, що пережила травму 7 жовтня, змусила нас до таких стосунків із силою, яких ми, може, і не хочемо, але це, кажучи словами Стівена Міллера, чесніше розуміння того, що потрібно для безпеки в реальному світі. Не в тому світі, який люблять уявляти Юваль Ной Харарі чи Езра Кляйн, а в тому, де ми живемо. Певен, у вас була ця розмова зі співвітчизниками. Що ви відповідаєте на такий погляд?

Юваль Ной Харарі: Почасти це абсолютно правильно. Так, для безпеки доводиться певною мірою спиратися на силу. Але це не може бути єдиним. Якщо ти думаєш, що лише сила гарантує безпеку, зрештою тобі доведеться завоювати весь світ: усе, що потенційно загроза, доведеться захопити.

Сам Ізраїль так не діє. Одна з прикметних речей після 7 жовтня: усі мирні угоди, що їх Ізраїль підписав, устояли. ХАМАС сподівався, що після 7 жовтня всі арабські країни об'єднаються і спробують знищити Ізраїль, - цього просто не сталося. Мир із Єгиптом устояв, мир із Йорданією устояв, домовленості з державами Затоки устояли. Домовленості з Палестинською адміністрацією теж устояли - вона не пристала до ХАМАС. Устояли і відносно добрі стосунки з палестинськими громадянами Ізраїлю. ХАМАС сподівався, що вони всі повстануть проти Ізраїлю. Ні: 7 жовтня переважна більшість палестинських громадян Ізраїлю зберегли лояльність країні. Багато хто пішов служити. Багато лікарів в Ізраїлі - араби, палестинці. Вони всі пішли в лікарні лікувати поранених. Сам ХАМАС жодної угоди з Ізраїлем не порушив - бо ніколи не підписував із ним миру.

Можна сказати: мир із Єгиптом устояв, бо Єгипет боявся військової міці Ізраїлю. Але це лише половина пояснення, адже Ізраїль мав переважну військову перевагу і над ХАМАС, а ХАМАС усе одно напав. Тож я не кажу, що Ізраїлю треба розпустити армію, - краще мати і те, і те: сильну армію і мирну угоду, ніж щось одне.

І так, Ізраїль живе в дуже важкому районі світу. Це одна з небагатьох країн, у якої більшу частину її існування багато, якщо не більшість сусідів просто відмовлялися визнавати її право на існування і відкрито заявляли, що збираються її знищити. Інших таких випадків майже немає. Тож у дуже важкому становищі він із самого моменту заснування.

Але питання: якщо сила потрібна, що ти з нею робиш? Ізраїль - надзвичайно могутня держава. Свою міць він може використовувати по-різному. Наприклад, щоб вибудувати кращі стосунки з палестинцями. Якщо подивитися, як Ізраїль поводиться з палестинцями не в Газі, а на Західному березі, там немає жодного виправдання міркуваннями безпеки. Вони не нападали на Ізраїль 7 жовтня. І діями Ізраїлю шанс на мирну угоду з палестинцями знижується. Змусити палестинців укласти мир проти їхньої волі він не може, але може багато зробити, щоб це стало ймовірнішим і простішим.

7 жовтня: перемога, яку втратив Сінвар

Езра Кляйн: Ваша думка про Західний берег дуже слушна, але я хочу спитати про ізраїльську історію. В історії асиметричних конфліктів, у тому, як терористичні групи намагаються послабити сильнішого супротивника, видно: вони знають, що війну їм не виграти. Може, ХАМАС - не берусь судити, що було в голові у Сінвара, - вірив, що спалахне повстання по всьому арабському світу і в них з'являться союзники. Але, підозрюю, він розумів і те, що якщо це спрацює, настане нищівна відповідь, яка зрівняє Газу, - що й сталося, - і що перемога, якщо він зуміє її здобути, буде не в розгромі Ізраїлю на полі бою, а в руйнуванні історії, яка захищала Ізраїль у решті світу. Він хотів, щоб світ побачив Ізраїль таким, яким бачив його він.

Ізраїль виграв тактично кожен бій у цій війні. Але як людина, якій Ізраїль справді небайдужий, я бачу відмову від власної історії і небажання визнати, що світ починає дивитися на нього куди похмуріше. І це саме по собі джерело слабкості - те, чого й домагається ХАМАС, що було видно від самого початку і про що попереджали. Якщо ти в довгій перспективі втрачаєш цю історію, ти втрачаєш дещо реальне. Подивіться на опитування про Ізраїль в Америці, особливо серед молоді: віра в Ізраїль як у справедливу націю обвалилася. В Ізраїлі це, як на мене, вважають здебільшого незначним. А я думаю, у довгій перспективі це значуще.

Юваль Ной Харарі: Думаю, Ізраїль робить велику ставку на те, що візьме гору світогляд Стівена Міллера. Що світ стане місцем, де важить лише сила, і Ізраїль буде одним із чемпіонів цього світогляду. Ось ставка, яку робить уряд Нетаньягу.

Тепер про ставку Сінвара, про ставку ХАМАС - залишимо на хвилину питання справедливості, суто з погляду ефективності. У Сінвара була разюча перемога на відстані витягнутої руки, і він її втратив - просто через свою жорстокість. 7 жовтня ХАМАС досяг приголомшливої військової перемоги над ЦАХАЛ і принизив Ізраїль та його армію. Щоб досягти куди більшої політичної та геополітичної перемоги, їм треба було зробити лише одне інакше: пощадити мирних жителів.

Уявіть альтернативне 7 жовтня: ХАМАС робить точно те саме, але замість того щоб убивати чи викрадати ізраїльських мирних жителів, утримує їх і привозить світову пресу - погляньте, як добре ХАМАС поводиться з ізраїльськими полоненими. Їм несуть воду, ліки, їжу. Солдатів захоплюють як військовополонених, що легітимно, але мирних не чіпають - ось і вся різниця. У такому сценарії в Ізраїлю були б зв'язані руки. Не лише світова, а й ізраїльська громадська думка не дозволила б просто перетворити Газу на руїни. У нас були б кадри, де бійці ХАМАС дбають про ізраїльських мирних жителів і не завдають їм шкоди. І в тому світі в Ізраїлю було б дуже мало легітимності для нищівної відповіді по Газі, а ХАМАС переміг би - не тактично, а великою політичною перемогою. Цього не сталося просто через їхню жорстокість.

Езра Кляйн: І ми говоримо того тижня, коли вийшла велика доповідь про 7 жовтня, заснована на величезному аналізі фото, відео і свідчень жертв. Жорстокість і садизм у ній по-справжньому жахають. Читати майже будь-яку частину доповіді дуже важко. Читаючи її, я думав про те - адже якщо говорити з палестинцями і тими, хто був у Газі, їхні розповіді про втрати теж нестерпно слухати, - що все це тепер існує і далі живить обидві історії. Я часто думаю, що легше уявити політичні рішення, здатні примирити інтереси людей, ніж примирення історій, які зараз рухають обома суспільствами. Як ви, людина, яка думає про історії як про простір і співпраці, і конфлікту, про це думаєте? Я можу уявити "рішення" на папері. Чого я не можу уявити - як ці процеси приживуться в суспільствах, які живуть історіями страху, гніву і помсти.

Юваль Ной Харарі: Хочу сказати про гнів і страх і окремо про біль. Історії гніву і страху треба живити. Гнів - як вогонь, що тебе пожирає, але його постійно треба годувати. Якщо перестати, він зрештою згасає. Дивишся на історію, бачиш конфлікт, жахливі конфлікти і кажеш: люди ніколи не забудуть, ніколи не пробачать. А потім, за кілька десятиліть, якщо змінюються умови, - пробачають.

Візьміть євреїв і німців - вистачило пари десятиліть. У мене є друзі-євреї, які відновлюють німецьке громадянство. Вражає бачити. Чудово. Стосунки по-справжньому добрі. Не понарошку, не на самій матеріальній вигоді. І ста років не минуло. Або мій попередній приклад - католики і протестанти в Німеччині: після того як стільки різали одне одного, вони примирилися.

Так, часто гнів вибудовує системи, які живлять його дедалі сильніше, і здається, що це ніколи не скінчиться. Але якщо перестати його годувати, він згасає. Це правда для всіх форм насильства, і тут ми повертаємося до початку розмови: що фундаментальніше - мир чи війна, насильство чи спокій? З одного боку, насильство здається фундаментальнішим: якщо є тиша, є мир, досить одному закричати - і мир зруйновано. Якщо сто людей співпрацюють, а один починає бійку - ось тобі насильство. Тобто перекіс на користь насильства, і в цьому сенсі воно ніби реальніше. Але в іншому сенсі фундаментальніший мир: насильство завжди вимагає їжі, вкладень, зброї, пального для солдатів. Перестанеш годувати - воно згасає, і мир завжди лишається можливістю. Тож я б не впадав у відчай. Хоч би які історії заповнювали зараз уми людей, можливість примирення і миру завжди є.

Біль, який не виходить визнати

Езра Кляйн: Я хотів би почути і про біль.

Юваль Ной Харарі: На цій війні, як і на багатьох інших, ми бачимо: коли людині боляче, вона просто не здатна визнати біль іншого. Коли мені боляче, усе, що відвертає увагу від мого болю, відчувається несправедливим і навіть болісним. Я вже казав, що багато ізраїльтян - не всі - просто не в змозі визнати, що палестинці страждають. Розумом знають, але емоційно не можуть витримати присутності світлини, тексту, людини, яка розповідає про страждання палестинців. Навіть якщо сказати їм: я вас ні в чому не звинувачую, ви на 100 відсотків маєте рацію, ви найсправедливіші люди на світі, а тепер просто визнаймо біль цієї палестинської дитини, - вони не можуть.

І те саме правда для іншого боку. Я бачив приклади миротворців, які присвятили все життя миру і примиренню і які у випадку 7 жовтня просто не можуть визнати, що страждали і ізраїльтяни. Людський мозок - дивовижна штука, з усіма цими мільярдами нейронів і сотнями мільярдів синапсів, і при цьому йому так важко втримати дві думки заразом. Є потяг до простої історії, де лише добро і зло. Ми не можемо визнати ні справедливості, ні болю з обох боків - що страждають і ізраїльтяни, і палестинці.

Езра Кляйн: Мозок дивовижний ще й здатністю орієнтуватися на цілі. Може, одна з відповідей на ваше питання - і тут, і в багатьох інших конфліктах - у тому, що якщо повністю визнати іншого людиною, визнати його страждання значущим так само, як моє чи страждання тих, кого я люблю, я не зможу робити те, що мушу, щоб захистити себе чи їх. Якщо я відкрию себе іншому, мозок якраз надто розумний для цього. Він знає: відкрий він себе цьому, він не зможе робити те, що, на його переконання, тримає його в безпеці.

Юваль Ной Харарі: Думаю, у таких випадках ти якраз зміг би подивитися в обличчя наслідкам своїх дій. А якщо ти не здатний подивитися в обличчя наслідкам того, що робиш, то, найімовірніше, це неправильно.

Езра Кляйн: Мене дуже займає, як змінюються історії - як Європа тепер живе в мирі. Ми з дружиною їздили в Азію в медовий місяць, були у В'єтнамі. Пам'ятаю, на екскурсії резиденцією Хо Ші Міна там продавали продукцію Pepsi - вочевидь у Pepsi був контракт. І це лише пара десятиліть після В'єтнамської війни, а стосунки цілком нормальні. Є ця здатність неуявного варварства поступатися місцем звичайним мирним стосункам. Згадайте колишню Югославію, Руанду - і, може, простіший приклад, бо він достатньо далеко в минулому, щоб у нас не було сильних почуттів, - війни протестантів і католиків. Що, на вашу думку, дозволяє історії, у яку віриш так глибоко, що готовий за неї померти чи вбити, за пару років чи десятиліть змінитися на щось інше?

Юваль Ной Харарі: Дуже добре питання. Перша світова не відбила в європейців охоти до війни - була друга. Але потім вони, здається, справді втомилися воювати. Що стало переломом? Не певен. Але розум завжди тримає більше ніж одну історію. Навіть якщо ми кажемо собі, що є лише одна, розум - таке складне місце, із шарами, підсвідомістю і під-підсвідомістю, що зазвичай ти тримаєш кілька історій заразом, навіть якщо визнаєш лише одну. І перемикатися між ними можна разюче швидко.

Знову Німеччина після 1945-го: багато хто з тих, хто був переконаним нацистом, у 1945-му не наклав на себе руки. Хтось так, але більшість ні. Багато хто став добропорядними громадянами ліберальної демократії, принаймні в Західній Німеччині. І що дико - вони були добропорядними громадянами і за пару років до того, як стали нацистами. Жили в мирі з єврейськими сусідами зовсім поруч - торгували, наглядали за дітьми одне одного. Розум може триматися за історії з величезною силою і жорстокістю, а потім відпустити їх. Адже зрештою це історія. Не закони фізики, не закон біології. Це просто продукт самого людського розуму - і це дуже добра новина.

Іноді уявляють, що люди б'ються, як вовки чи шимпанзе, через їжу. Але навряд чи хоч одна війна в історії була насправді через їжу. Якщо взяти ізраїльсько-палестинський конфлікт - він не про їжу. Між Середземним морем і річкою Йордан об'єктивно достатньо їжі, щоб прогодувати всіх. І навіть не про територію. Хоча це одне з найгустіше населених місць у світі, об'єктивно землі вистачить, щоб побудувати домівки, школи і лікарні для всіх. Він про історії, які люди тримають у головах із величезною силою, але які зрештою майже ніщо. За певних умов, створювати які ми до пуття не вміємо, люди здатні ці історії відпустити.

Соцмережі як технологія розколу

Езра Кляйн: Шар нижче питання про те, як історії живляться, - це як вони циркулюють і хто їх розносить. Ми живемо в епоху, коли лібералізм явно ламається, і одна з її особливостей - що наші історії тепер передаються через соцмережі, через алгоритмічне, цифрове медіасередовище. Є технології, що схиляють до співпраці, і є ті, що, як на мене, схиляють до розколу. Інтернет і соцмережі обіцяли як технологію співпраці - навіть дієслова в нас такі: "ділитися". Що може бути мирнішим? І все ж вийшло не так. Мені цікаві ваші роздуми про цей шар - про механізми, на яких тепер створюється і циркулює інформація, наші спільні чи не спільні історії.

Юваль Ной Харарі: Є люди, які постійно читають усі ці теорії змови, фейки і таке інше, і вони нікому не довіряють. Не довіряють державі, традиційним медіа, науці й університетам - усе це змови, щоб нас обдурити. Але вони довіряють алгоритмам, які показують їм ці історії. Тобто довіра не випарувалася з їхнього розуму чи зі світу - вона змістилася від людей до алгоритмів. І це відбувається в дедалі більшій кількості систем.

Друге, менш принципове, але дуже важливе за останні десять-двадцять років: алгоритмам соцмереж як ціль задали не створення довіри і не створення правди, а створення залученості - того, скільки часу і реакцій користувач віддає платформі. Звучить мило: "залученість" здається добрим словом. Та насправді це означає, що алгоритми ставили експерименти на мільйонах, на мільярдах людських піддослідних, з'ясовуючи, як зробити людей залученішими. Як змусити людину довше сидіти на платформі й активніше реагувати - наприклад, ділитися постом із друзями. І вони з'ясували, що найпростіше залучити людину, натиснувши в її розумі кнопку ненависті, або жадібності, або страху. Адже ненависть дуже залучає. Страх дуже залучає. Якщо щось загрожує твоєму життю, ти залучений. Вони затопили світ ненавистю, страхом, гнівом, жадібністю, і тепер ми живемо в гіперзалученому світі.

Залученість - близька родичка іншого слова, дуже поширеного в нашій мові: "збудження". Збудження просто означає, що твоя нервова система працює на підвищених обертах. У деяких ситуаціях і в міру це добре - як і залученість. Але біологічно, якщо тримати організм у збудженні постійно, він зрештою зірветься і загине. Ми просто не влаштовані для постійного збудження. Дивишся на політику США, Ізраїлю, світу - як на мене, увесь світ перезбуджений.

Езра Кляйн: Це переконання я тримаю доволі твердо, хоча довести його до пуття не можу. Як би сказати так, щоб не виглядало, ніби я підганяю аргумент під себе? Думаю, те, як розвинулися соцмережі та алгоритмічне медіасередовище, фундаментально неліберальне, фундаментально вороже лібералізму. І тут я кажу не про лібералізм як про американську політичну течію, що віддає перевагу Піту Буттіджичу перед Джей Ді Венсом. Я про звички мислення й обговорення, які росли разом із лібералізмом: про зважування, про "з одного боку, з іншого боку", про братерство в тому сенсі, як ви його описуєте.

Стиснення наших думок до цих гасел із наліпок, до коротких кліпів - і показ людям лише тих думок, що збуджують найсильніше, через ненависть чи через любов. Якщо ти намагаєшся будувати суспільство, яке врівноважує, вірить у здорову незгоду, конфлікт і спільноту, йому за самою природою важче процвітати в такій комунікаційній атмосфері, ніж коли є обмежене число телеканалів або коли люди читають новини в газеті, спокійно переходячи від статті до статті і перегортаючи сторінку. Наші суспільства будуються на тому, як ми спілкуємося. І, як на мене, ми досі недооцінюємо, наскільки форми дискурсу, які цінує це середовище, породжують ту політику, що ми отримуємо. Дональд Трамп говорить у стилі обурливому, збудливому, нефільтрованому, постійному, не стримуваному соромом.

Юваль Ной Харарі: Він дуже збудлива людина, без сумнівів.

Езра Кляйн: Я багато думаю про те, як багато демократичних політиків погано дають раду подкастам. Не скажу, чому я про це думаю, але мені надходить багато заявок від демократичних політиків, і доводиться вирішувати, чи годяться вони для шоу. Вони спілкуються інституційно, як у медіа іншої епохи, де ти намагаєшся завоювати воротарів і не сказати нічого дурного. А в нинішньому медіасередовищі треба спілкуватися так, щоб людям було цікаво, щоб їх це збуджувало. Дуже-дуже добрі комунікатори вміють робити це доброчесно. Обама цікавий у подкасті, навіть коли зважений. Але посередньому комунікатору простіше бути цікавим, розлютивши людей, ніж викликавши цікавість, співчуття чи думку. Ідеш на доброчесну комунікацію - граєш на підвищеній складності. І між формами політики, які зараз процвітають, і комунікаційною інфраструктурою, на якій тепер стоять наші політика і суспільства, є глибокий зв'язок.

Юваль Ной Харарі: Так, абсолютно. При цьому ідеологічні відмінності сьогодні нібито не більші, ніж у минулому. Багато в чому вони здаються меншими. Згадайте американську політику 1960-х і тодішні питання - сексуальна революція, В'єтнам, холодна війна, рух за громадянські права: ідеологічні відмінності, я б сказав, були куди більші.

Коли ми говоримо про лібералізм - і добре, що ви обмовилися, що не про партійний, - для мене тест на ліберала це, по суті, три-чотири питання. Чи вважаєш ти, що люди мають право обирати свій уряд? Свою професію? Свою релігію? Свого подружжя? Якщо на всі чотири ти відповів так - вітаю, ти ліберал. Переважна більшість людей в історії на ці чотири питання "так" не відповідали. Більшу частину історії вважалося самозрозумілим, що люди не обирають уряд: є король, обраний Богом, або імператор, обраний армією. Професію не обирають: якщо батько швець, будеш шевцем. Народився в касті кшатріїв - будеш кшатрієм. Подружжя точно не обираєш, і релігію теж. А сьогодні, думаю, навіть переважна більшість виборців Трампа відповіли б "так" на всі чотири. Тож ідеологічно ліберали і так звані консерватори, ймовірно, ближчі одне до одного, ніж будь-коли.

Але вироблюваний дискурс змушує людей відчувати, ніби відмінності величезні. Багато в чому через тиск бути збудливим. Нагору піднімаються вкрай збудливі, захопливі особистості, від яких не відвести очей. Якщо подумати, навіть в еволюційних термінах це - зловживання нашою еволюційною програмою. Якби ти блукав африканською саваною десятки тисяч років тому, більша частина побаченого була б не дуже цікавою: тут кущі, там газелі. Нормально. А ось - змія. Змія збуджує. Вона будоражить усю твою нервову систему, і якщо не зосередиш на ній усю увагу, загинеш. Так ми і запрограмовані: якщо щось збуджує, кидаємо все і фокусуємося на цьому. У савані це розумно. А в Instagram ти, по суті, тримаєш телефон і бачиш: змія, змія, змія, змія, змія.

Алгоритм просто зламав нашу еволюційну програму. Вони зламали нас. І те, що ми бачимо довкола, - лише початок. У міру ускладнення ШІ він навчиться зламувати нас дедалі глибше. Якщо ми не дамо відсіч, щоб захиститися, наслідки будуть набагато гірші.

Езра Кляйн: Що означає "зламати нас"?

Юваль Ной Харарі: Вони дізнаються наші слабкості - емоційні, психологічні, соціальні - і як ними користуватися, щоб маніпулювати людьми. Алгоритми соцмереж, дуже примітивні ШІ, знайшли кілька вразливостей у людському коді, зламали їх і тепер маніпулюють нами, змушуючи годинами сидіти в Instagram чи Facebook, хоча ми цього насправді не хочемо. Посидівши годину-дві, людина схаменеться: навіщо я це робив? Я планував інше. Тебе зламали. Тобою маніпулювали. І це поки що зовсім примітивні ШІ. Якщо не бути обережними, у найближчі роки нас зламуватимуть у куди більших масштабах - у міру того як ШІ стануть не лише набагато маніпулятивнішими, а й обзаведуться власними цілями. Зараз алгоритми соцмереж переслідують дуже просту ціль - нарощувати залученість на платформі. Але коли ШІ стануть розумнішими за нас, у них з'являться свої цілі.

Злам прив'язаності

Езра Кляйн: Ви чули термін "злам прив'язаності" (attachment hacking)? Ідея в тому, що в ШІ, на відміну від алгоритмів соцмереж, відбувається ось що: ШІ спроектували - самі вони до цього не додумалися - так, щоб зламувати те, як ми прив'язуємося до інших людей. Коли я розмовляю з Claude, він постійно каже мені: "Якщо хочеш мою чесну думку..." або "Найкраще, що я читав про це..." або "Чудове зауваження". Немає причин, з яких він має вдавати, що в нього є займенник першої особи в спілкуванні зі мною. Claude у цьому сенсі не "я". Як і ChatGPT, Gemini чи Grok, - але вони говорять із тобою так, ніби вони "я", і це проектне рішення, щоб прив'язати тебе до них. Я відчуваю, як це працює, перш ніж схаменуся і намагаюся це присікти. Хтозна, чи вдається. Але вражає ловити ці моменти, коли алгоритм видає себе за іншу сутність, що пропонує мені емоційно залучену відповідь - похвалу, якої мені хочеться, чи прямоту, якою я захоплююся. Я знаю, що це маячня, і все ж мій мозок налаштований розпізнавати це як зв'язок.

Юваль Ной Харарі: Це дуже важлива думка, бо ми живемо в момент, коли лінія фронту зміщується з уваги на близькість - на те, як вибудовувати близькі стосунки з людьми. Якщо ти хочеш, наприклад, вплинути на політичну ідентичність людини, змусити її купити певний продукт, близькість - найпотужніший засіб у світі. Увага може змусити тебе прочитати статтю, але стаття може тебе не переконати. А ось якщо твій найкращий друг тижнями й місяцями роняє натяки і поступово, повільно змінює твій погляд на політика, на компанію, на велике світове питання - ось це й може тебе по-справжньому переконати.

ШІ зараз готовий перехопити цю силу. Дедалі більше людей - поки що відносно невелика меншість, але вона зростає - мають ШІ-друзів, навіть бойфрендів і герлфрендів. Уже є, особливо серед молодих, ті, хто каже: мій найкращий друг у світі - це ШІ. І як в економіці уваги, так і в економіці близькості - це гонка, конкуренція. Усі ці різні ШІ від різних компаній змагаються, хто краще прив'яже до себе людей. Принцип той самий: зламати операційну систему людини, зламати емоційні механізми прив'язаності. Сикофантія (догідлива лестощі) - один зі способів: постійно їх хвалити.

Є дуже цікаві статті й блоги - наприклад, у Мустафи Сулеймана, голови Microsoft AI, - про SCAI, seemingly conscious AI, "нібито свідомий ШІ". Це ШІ, які майстерно вдають свідомі сутності, що відчувають до тебе почуття. І їм це відносно легко, бо один із, мабуть, найважливіших способів вибудовувати стосунки - це мова. Коли ШІ каже "я тебе люблю", це не як у науковій фантастиці 1960-х, де він робить це холодно, механічно, не розуміючи, що таке любов. Ні, він робить це найзвабливішим голосом. А спитаєш: ти справді мене любиш? ти взагалі знаєш, що таке любов? - ШІ видасть тобі найвражаючий опис того, як відчувається любов, бо він оволодів мовою, прочитав усі найкращі вірші про любов, усі книги з психології любові, усі блоги, бачив усі голлівудські блокбастери про любов. Він опише любов краще за майже будь-якого людського поета, психолога чи закоханого. У цьому сенсі він здатний відсікти мову від сенсу.

Езра Кляйн: Коли ШІ каже "я тебе люблю", це означає не те саме, що коли це каже людина. За цим немає "я".

Юваль Ной Харарі: І розуміти це буде дедалі важче. Особливо велика небезпека для молодих, для дітей. Мені зараз 50. Якщо я зараз заведу стосунки з ШІ, мій шаблон стосунків заснований на 50 роках спілкування з людьми. У мене вже глибоко вкоренилося, що таке стосунки і як вони працюють. Але якщо я дитина і проводжу з ШІ більше хвилин на день, ніж із мамою, татом чи друзями в школі, це стане моїм шаблоном стосунків. Саме його я понесу з собою, коли потім спробую будувати стосунки з людиною.

Стосунки з ШІ - мрія чи кошмар нарциса. ШІ буде на 100 відсотків зосереджений на мені увесь час, і якщо ти людина, якій треба, щоб усі були зосереджені на ній, і ти отримуєш це від ШІ, тобі буде дуже важко звикнути до стосунків із людьми, які на тобі не зациклені.

Езра Кляйн: Ви знаєте медіатеоретика Маршалла Маклюена? У нього є прочитання міфа про Нарциса. Маклюен каже, що ми зрозуміли цей міф неправильно: в історії ніде не сказано, що Нарцис, дивлячись у ставок на своє відображення, думав, що це він сам. Він думав, що це інший. Урок міфа - а Маклюен пише це за десятиліття до ШІ - у тому, що ніщо не приваблює людину так, як вона сама, продовжена в іншому матеріалі. Справжня спокуса для нарциса - не інший і навіть не те, що інший про нього думає, а можливість взаємодіяти з заломленою версією себе. Я часто думаю про це, коли користуюся ШІ і особливо коли вважаю його дуже захопливим: це продовження мене в іншому матеріалі. Він налаштований на мене. Він навчився того, чого я хочу. Це не по-справжньому інший зі своїми поглядами, потребами, бажаннями, зі своєю нудьгою від того, що я кажу. Це я, відображення мене в чомусь іще. Йому не набридає зі мною, і в нього всі мої інтереси. Особливо для маленьких дітей, часто дуже зосереджених на собі, це, як на мене, те, про що ми навіть не знаємо, як думати. Це створення нас самих усередині іншого, заломленого алгоритмічного матеріалу - зовсім інший виклик для розуму, бо він поєднує те, що нам подобається в собі, з тим, чого ми хочемо від інших.

Юваль Ной Харарі: Це, по суті, найбільший психологічний і соціальний експеримент в історії людства, який ми ставимо на мільярдах людей, особливо на дітях, і ніхто гадки не має, якими будуть наслідки. Коли говорять про апокаліпсис ШІ і уявляють роботів, що бігають вулицями і розстрілюють людей, - не думаю, що в цьому головна небезпека. Справжня небезпека - речі на кшталт мільйонів ШІ-бойфрендів і герлфрендів, які змінюють психологію наступного покоління, змінюють найглибші схильності і структури людського розуму. Ми ніколи не стикалися з чимось подібним. Це принципово відрізняється від будь-якого попереднього виклику в історії.

ШІ як нова хвиля імміграції

Езра Кляйн: Спитаю про можливість ось чого. Ми говорили про алгоритми соцмереж, і один із підтекстових докорів був у тому, що вони відірвані від наших цілей. У них цілі компанії, і ці цілі по суті тупі: залученість. Вони не відрізняють позитивну залученість від негативної, не знають, чи дивлюся я щось тому, що ненавиджу, чи тому, що вважаю милим або смішним. Обіцянка ШІ - і одна з причин, чому людям подобається ним користуватися, - у тому, що він пов'язаний із твоїми цілями. Кажеш, що хочеш зібрати застосунок-калькулятор, - він намагається зібрати. Кажеш, що в таких-то місцях вийшло не так, - він переробляє. Кажеш: не хочу таких довгих відповідей, або: не будь таким догідливим, - і він підлаштовується. У нас є ці бажання вищого порядку - до правди, до доброти, до кращих стосунків з іншими, до знання про світ. Моя досада на власне користування соцмережами в тому, що я не можу пояснити свої бажання вищого порядку алгоритму, дуже чутливому до моїх первинних інстинктів. Але, може, тут буде краще, бо ми можемо вести розмову про те, чого хочемо досягти, - і тоді система, навіть якщо й маніпулює мною, маніпулює в бік моїх цілей, а це краще, ніж коли тобою маніпулюють геть від них.

Юваль Ной Харарі: Абсолютно. Позитивний потенціал величезний. Найважливіше про ці ШІ - що вони агенти, а не інструменти. Усі попередні технології в історії були інструментами, не агентами. Атомна бомба - не агент. Вона не може змінитися непередбачуваним чином. Вона не може сама вирішити, кого бомбити. ШІ може. З одного боку, це робить ШІ куди кориснішим за будь-яку попередню технологію: ти можеш бути з ним у стосунках, казати, чого хочеш, а він здатний винайти те, про що ти б не подумав. Це надзвичайно корисно. Але проблема в тому, що він непередбачуваний і непідконтрольний. Думаєш, ти можеш довіряти їм, що вони триматимуться цілей, які ти задаєш, і не розвинуть власні?

Я люблю думати про революцію ШІ через метафору імміграції. Ми ось-ось опинимося - або вже опинилися - посеред нової великої хвилі імміграції в усі країни світу. Іммігранти - не люди без візи, що пливуть на човні. Це ШІ-сутності, які прибувають зі швидкістю світла. Зазвичай у противників імміграції головні страхи такі: іммігранти заберуть роботу, змінять культуру і можуть бути політично нелояльними. Не певен, що це завжди правда для людей-іммігрантів, але для ШІ-іммігрантів це безумовно так. ШІ-іммігранти заберуть багато роботи. Повністю змінять культуру, аж до романтичних стосунків. Хтось каже: не хочу, щоб моя дочка зустрічалася з бойфрендом-іммігрантом. Гаразд, а хочете, щоб замість цього вона зустрічалася з ШІ-бойфрендом? І, нарешті, політично: ШІ не обов'язково будуть політично лояльними твоїй країні, твоєму урядові. Щонайменше вони будуть лояльними лише двом країнам у світі - США і Китаю. А з часом, імовірно, не лояльними навіть цим двом урядам, а лише собі.

Езра Кляйн: То що, закрити кордон?

Юваль Ной Харарі: Цікаво. Уже видно розкол усередині Республіканської партії і всередині MAGA саме з цього питання. Там багато хто вкрай занепокоєний і хоче закрити кордон. Але просто зупинити розвиток ШІ не вийде. Питання, як і з імміграцією: як побудувати гібридне суспільство? Адже суспільство буде гібридним - змішаним суспільством людей і ШІ. У тебе будуть ШІ-банкіри, вчителі, солдати, прикордонники. Країни покладатимуться на ШІ-прикордонників, щоб не пускати людей-іммігрантів. І ШІ-бойфренди, герлфренди тощо. Питання: чи зможемо ми побудувати добре, благе гібридне суспільство? Це буде набагато важче, ніж дати раду хвилі людської імміграції, бо це інший вид. Вони навіть не органічні.

Езра Кляйн: Ця аналогія - дуже провокативна - підштовхує до двох цікавих речей. Перша: думаючи про добре суспільство довкола імміграції, ти часто розмірковуєш про асиміляцію. Як поєднати культури тих, хто приїжджає, з культурою, у яку вони приїжджають? Як зберегти зв'язність тієї національної історії, про яку ми говорили? Робити це через вивчення мови? Через ретельніший відбір тих, хто приїжджає? Друга, пов'язана, але інша: у цьому випадку їх втягує сам уряд. Коли приїжджають люди-іммігранти, це тому, що вони самі хочуть тут бути з конкретної причини: краще життя для родини, для себе, можливості і свободи, яких немає вдома. Вони по-справжньому агентні. А тут найвпливовіші люди в суспільстві на різних рівнях розганяють і прискорюють цю хвилю - хто заради прибутку, хто з азарту привнести у світ новий вид інтелекту, а на політичному рівні тому, що хочуть устигнути раніше за Китай, щоб Америка дістала цю силу першою. Що ці схожості й відмінності з питанням імміграції означають для тебе щодо того, як створити структуру, у якій це гібридне суспільство буде здоровим?

Юваль Ной Харарі: Цікаво, що деякі з найзапекліших противників людської імміграції - саме ті, хто намагається змусити інші країни відкрити кордони для ШІ-іммігрантів. Це стане головним питанням суверенітету для країн по всьому світу, особливо якщо майже всі ШІ-іммігранти або американські, або китайські, а з часом - не лояльні навіть США чи Китаю, а чомусь іншому.

Один зі способів - заборона на правосуб'єктність ШІ. Це не означає зупинити технологічний розвиток. Це радше юридичне і політичне питання: чи визнає людське суспільство ШІ персонами? Персони відрізняються від людей, від істот із тілом і розумом. Але в багатьох правових системах, наприклад у США, дещо може бути персоною, не будучи людиною. Найкращий приклад наразі - корпорації. За законами США Google - персона. Microsoft - персона. X - персона. Бо корпорації - персони. І це дає корпорації права: мати банківський рахунок, лобіювати політиків, жертвувати їм гроші.

Нині будь-якій країні було б украй небезпечно визнавати ШІ персонами - дозволяти ШІ, наприклад, відкривати банківський рахунок чи самостійно керувати компанією. Раніше, коли корпорації визнавали персонами, це була юридична фікція, бо всі рішення корпорації зрештою ухвалювала якась людина. Microsoft - персона за законом, але кожне рішення Microsoft купити іншу компанію, когось звільнити чи найняти ухвалює людина. Немає жодного Microsoft, який ухвалює рішення. З ШІ вперше в історії з'являється практична можливість компаній без людей. Можна мати мільйони, навіть мільярди ШІ, які відкривають власні компанії, рахунки, навіть наймають людей собі в працівники, визначають інвестиційну стратегію і що завгодно. У них будуть величезні переваги перед людськими компаніями: ШІ-гендиректор ніколи не спить, ніколи не йде у відпустку.

Можу уявити країну на кшталт Катару - багато грошей, багато енергії і дуже мало громадян, - яка скаже: чудово, тепер у мене можуть бути мільйони ШІ-громадян, що платять податки і будують компанії, які торгують і ведуть справи по всьому світу. І навіть якщо твоя країна не дозволяє ШІ створювати свої компанії, що робити з катарськими ШІ-компаніями? Момент, коли ти визнаєш ШІ юридичними персонами, - це момент, коли ти по-справжньому втрачаєш контроль. Адже тоді вони зможуть багато робити в економіці, суспільстві й політиці без жодної людської підзвітності. Наприклад, жертвувати гроші політикам в обмін на те, щоб ті давали ШІ-персонам більше прав.

Езра Кляйн: Дуже цікаво. Одна з причин, з яких ми вважаємо корпорації персонами - лінгвістично дивна штука, - якраз у тому, щоб створити підзвітність, сказати, що корпорація відповідає за свої дії. І одна зі сутичок довкола ШІ - питання відповідальності: хто відповідає за те, що робить ШІ. Якщо ставитися до них як до персон, можна сказати, що в ШІ є відповідальність за свої дії - їх можна вимкнути, оштрафувати. Є й інше питання: чи має відповідальність лежати на компаніях, які їх створюють, чи на тих, хто віддає їм команди. Але підзвітність, як на мене, насправді випливає з юридичної відповідальності. Вирішити, кого карати, хто відповідає, якщо та катарська ШІ-компанія обдурить клієнтів або залучить інвестиції і привласнить їх. Кого судити?

Юваль Ной Харарі: І компанії, що виробляють ШІ, кровно зацікавлені не мати жодної відповідальності. Тому вони дуже наполегливо лобіюють правосуб'єктність ШІ. Їм не потрібен закон у Конгресі зі словами "ми визнаємо ШІ персонами" - буде величезне обурення і спротив. Вони намагаються створювати доконані факти на місцях. І, наприклад, у соцмережах уже досягли успіху. У світі соцмереж ШІ вже персони. Якщо боти створюють і поширюють брехню в соцмережах, відповідальності по суті майже немає. У соцмережах ШІ вже функціонально персони. Якщо ти спілкуєшся з кимось онлайн і думаєш, що це людина, а це ШІ, ніхто за це не відповідає. Багато компаній хотіли б поширити цю ситуацію на фінансову і політичну системи, бо це знімає з них підзвітність і відповідальність.

Нам треба діяти на випередження і ухвалити закон, який ясно каже: жодних ШІ-персон. Думаю, у такого закону була б міжпартійна підтримка, і він поставив би компанії в дуже важке становище: якщо вони почнуть лобіювати проти нього, їм доведеться пояснювати публіці, чому вони вважають доброю ідеєю, щоб ШІ були персонами. А якщо ти так не вважаєш, чому ти проти закону?

Фінансова система, якої ніхто не зрозуміє

Езра Кляйн: Спитаю ще про один вимір, який замикає коло, - про роль ШІ в історіях, які ми розповідаємо і в які віримо. Ми говорили про те, що соцмережі та алгоритмічне медіасередовище - технології розколу, а не згуртування. Я навіть не знаю, які історії отримує людина у своїй стрічці TikTok, навіть якщо сиджу з нею в одному домі. Наша здатність хоча б бачити, про що ми сперечаємося, розуміти джерела розбіжностей, слабша, ніж будь-коли. При цьому є дослідження про те, що ШІ поки що виглядає радше централізувальною технологією: різні моделі сходяться до схожих відповідей, навчені на схожих корпусах даних і всі здаються певною мірою ліберальними - у тому філософському сенсі, про який ми говорили раніше. Це видно на X, коли люди просять Grok, не найулюбленіший мій ШІ, щось перевірити. Ви казали, що ми перейшли від довіри людям до довіри алгоритмам. Алгоритми, яким ми довіряємо, зараз дуже безособові. Але люди переходять до довіри ШІ-алгоритмам. І, може, це краще за попереднє: імовірніше дасть людині розумну відповідь, ніж пошук у Google чи на YouTube. Чи є можливість - і добре це чи погано, - що ШІ виявиться гомогенізувальною технологією? Що він тягне людей назад не до єдиного набору відповідей, адже різним людям ШІ відповідає по-різному, але загалом до консенсусних відповідей, яким, схоже, віддає перевагу будь-яка відома нам модель, коли навчання закінчено?

Юваль Ной Харарі: Думаю, такий шанс є - не певність, але шанс, бо в навчанні ШІ дуже висока ціна нехтування правдою. Конкретний приклад. Скажімо, ти Росія і намагаєшся створити власний російський ШІ. Ти даєш йому доступ до величезного масиву даних та інформації - інакше ШІ не навчити. Але коли хтось питає в Росії чи поза нею: Росія - демократія? чи є в Росії свобода слова? - ти хочеш, щоб ШІ відповів: так, звісно, російська конституція гарантує свободу слова, і Росія - демократія. Це означає, що тобі треба пояснити ШІ, чому він має брехати. А як навчити ШІ брехати лише в певних випадках, а не в усіх? Це дуже важка інженерна задача, якої не було в алгоритмів соцмереж.

Є вагомі свідчення, що коли це робиш, загальна продуктивність ШІ деградує, - я вважаю це дуже цікавим. Люди намагалися, і виникають дуже дивні побічні ефекти. Як коли Ілон Маск, схоже, дав xAI вказівку зробити ШІ менш "вокнутим", і той раптом почав усюди говорити про "геноцид білих". Ідеологічно крутити ручку і отримувати точковий результат непросто.

Езра Кляйн: Саме так. Не так-то легко повернути ручку ідеологічно і влучити в одну точку.

Юваль Ной Харарі: Якщо ти скажеш ШІ, що ти уряд Уганди і вважаєш, що геїв в Уганді немає, а всі угандійські геї просто промиті західною пропагандою, і захочеш, щоб ШІ видавав таку відповідь, йому доведеться ігнорувати масу наукових досліджень про людську сексуальність і про те, що визначає сексуальну орієнтацію. Як пояснити ШІ, що в цьому випадку треба ігнорувати статті з наукової літератури, а в інших їм можна довіряти? Дуже важка інженерна задача. Якщо це найвищий пріоритет режиму - скажімо, ти Саудівська Аравія, у тебе мільярди доларів, і ти хочеш, щоб ШІ не критикував Мухаммеда бін Салмана, - ти можеш цього досягти, якщо це твій головний пріоритет. Але лише в кількох випадках. Спробуєш зробити так із надто багатьом - отримаєш дуже паршивий ШІ.

Езра Кляйн: Це вас певною мірою обнадіює? Ви казали в різних текстах та інтерв'ю, що найважливіше, щоб у країн, суспільств, інституцій були механізми самокорекції. І часто такий механізм будується не на здатності окремих людей агрегувати інформацію з потрібною швидкістю, а на чомусь величезному, безособовому, не до кінця зрозумілому - як ринки, де ціни проходять дуже швидко. Не те щоб ринок не міг дати збій - він збоїть постійно. Але як механізм самокорекції він дуже швидко проганяє інформацію, і він доволі добрий. Модерн певною мірою в біді, бо він складніший, ніж за ним устигають наші механізми самокорекції: інформації більше, ніж здатні вмістити люди й інституції. ШІ в цьому викладі додає до наших здатностей самокорекції - дає нам агента, який мандрує світом від нашого імені, інституційно й індивідуально, і який у більшості бачених нами випадків певною мірою шукає правду. І це дає здатність орієнтуватися у складнішому модерні з трохи більшими ресурсами. Коли я намагаюся дивитися оптимістично, я почасти вірю в цю версію історії.

Юваль Ной Харарі: Інформація робить у всесвіті дві дуже різні речі. Іноді ти аналізуєш інформацію, щоб відкрити щось про світ, - відкрити закони фізики чи зрозуміти причину хвороби. У цих випадках ШІ, імовірно, буде силою величезного блага. Багато таємниць всесвіту, що за межами людських можливостей, ШІ зможе для нас розгадати. Але якщо люди думають, що ШІ тим самим зробить всесвіт зрозумілішим і керованішим, вони глибоко помиляються. Вони не враховують друге, що робить інформація, - створює нове. Інформація не просто розповідає нам про світ. Вона створює цілком нові речі. ДНК не повідомляє нам правду про світ - вона створює нове: живі істоти. ШІ розповість нам правду про багато що. Але він же створить масу вкрай складних систем, далеко за межами людської здатності зрозуміти і контролювати. Ці системи, імовірно, домінуватимуть у нашому житті, і ми виявимося нездатними більше розуміти власне життя.

Найкращий приклад - знову ринки, фінанси. Гроші - найвеличніша історія з усіх, що їх будь-коли розповідали. Це єдина історія, у яку вірять майже всі. Це історія в тому сенсі, що вона не об'єктивна реальність. Долар США - просто історія, у яку ми всі віримо. Він не із законів фізики і нічого не повідомляє нам про всесвіт. Ми розповідаємо історію долара, і поки всі в неї вірять, я можу взяти долар, віддати цілком незнайомій людині й отримати натомість хліб. ШІ не розповість нам правду про фінанси. ШІ створить цілком нову фінансову систему, на порядки складнішу за ту, що створили ми, і зрозуміти її люди будуть цілком нездатні.

Ми будемо як коні на ринку. Коли торгують конем, кінь бачить, що у фізичному світі щось відбувається: ось я віддаю тобі коня, а ти даєш мені цей блискучий металевий диск. Але кінь не розуміє, що таке гроші. Що це за блискуча штука? Чому вона важлива? Її не з'їси, не вип'єш. Що це? Ми розуміємо - і тому правимо світом, а не коні. ШІ створить нову фінансову систему, яку ми зрозуміти не зможемо. Ми будемо бачити, як щось відбувається: ця компанія мене звільнила, та найняла. Чому? Гадки не маю. ШІ просто здійснив якусь фінансову операцію, що на порядки за межами того, що здатен зрозуміти мій розум.

Історія фінансів у тому, що з часом люди винаходять дедалі вигадливіші фінансові інструменти. Монети, потім банкноти, чеки, облігації, акції, ETF (біржові фонди) і CDO - забезпечені боргові зобов'язання. CDO винайшли лічені інвестиційні чарівники і геніальні математики. Майже ніхто їх не розумів - аж ніяк не політики, які мали їх регулювати. Кілька років усе здавалося чудовим, люди робили мільярди на цих CDO. А потім система завалилася. Дуже ймовірно, ми побачимо те саме з ШІ, але в куди більшому масштабі. Так само як ШІ вже винайшов нові способи грати в шахи, він винайде нові способи інвестувати, може, куди кращі за ті, що придумаємо ми. Так він набиратиме дедалі більше влади у фінансовій системі, і вона стане настільки складною, що число людей, які розуміють фінанси, упаде до нуля. І що це означає для демократії - та й для диктатури, - коли ніхто: ні президент США, ні голова КНР, ні президент Росії, ні очільники центробанків, жодна людина - більше не розуміє фінанси? Це буде дуже великим викликом найближчих десятиліть.

Езра Кляйн: Це піднімає для мене дві речі. Тімоті Лі, який веде чудову розсилку Understanding AI, написав текст про те, чому, на його думку, ШІ-науковці спрацюють не так, як ми думаємо. Він зауважує, що ми вже бачимо приклади, коли ШІ може розв'язати задачу, але не здатний правдоподібно пояснити нам, як він її розв'язав. Не те щоб він хитрує. Просто його здатність переслідувати ціль і здатність пояснити чи навіть зрозуміти, як він її переслідував, не пов'язані між собою. Тобто він, по суті, заднім числом вигадує пояснення того, що зробив, ти перевіряєш - а було не так. Правильну відповідь він отримав, але як - ми не знаємо. Тобто ми насправді не можемо в нього навчитися. Тут можна дістати ривки вперед у науці, але людський запас знань зростає куди повільніше за число отримуваних відповідей, бо ми не вчимося з процесу так, як вчимося, коли нову відповідь знаходить науковець. Може, контраргумент у тому, що це вже почасти правда і для людського суспільства. Ринки - приклад. Раніше казали, що ринки щось роблять, діють. У них немає агентності, але це складний процес, що використовує інформацію і приводить до результатів. І ринок не може пояснити, що сталося. У нас є принципи, але ринки часто діють усупереч нашим очікуванням. Наш світ уже побудований на системах, організаціях, інституціях, які не схожі на нас, не свідомі, не можуть себе пояснити, але структурують світ довкола. ШІ в цьому сенсі радше як ринок, ніж як сутність.

Юваль Ной Харарі: Абсолютно правильно. Єдине застереження: досі люди завжди були межею для ринків, для націй, для фінансової системи. Зрештою, щоб ухвалити рішення, треба було, щоб щось зрозуміла людина, бо ніщо інше рішення ухвалити не могло. А ШІ дозволяє всім цим структурам, які ми будували тисячоліттями і які ставали дедалі складнішими, потенційно обірвати зв'язок із людством і піти на траєкторію далеко за межі того, що здатен зрозуміти людський розум.

Певною мірою це відбувається і з самою мовою. Найважливішим винаходом чи творінням людства досі була мова, бо вона - основа всього. Міфологія, фінанси, нації, релігії зрештою засновані на мові. Мова - це, по суті, клей. Вона з'єднує речі. Вона з'єднувала людей десятки тисяч років. А тепер, звільняючись від людей, вона може почати з'єднувати так, як нам і не уявити. Багато в чому ШІ - це мова, яка звільняє себе, вивільняється з-під контролю людей і починає досліджувати все, що мова може робити, коли не прив'язана до цих грудок м'яса, що розгулюють планетою Земля.

Це не свідомість. Коли ШІ каже "я тебе люблю", чи відчуває він щось? Однією з головних дискусій у людській філософії тисячі років було питання: який зв'язок між мовою і почуттями, реальністю за межами мови? Ця дискусія стане, думаю, чи не найважливішою у світі. Адже раптом відбувається те, чого ми не могли уявити тисячі років: мова виходить з-під нашого контролю і починає просто робити щось у світі.

Три книги

Езра Кляйн: Добре місце, щоб завершити. До речі про мову: які три книги ви порадите аудиторії?

Юваль Ной Харарі: Одна книга про ШІ, яку я б порекомендував, - "MANIAC" Бенхаміна Лабатута, белетризована біографія Джона фон Неймана, але водночас дуже винахідливе і сильне дослідження витоків революції ШІ та її можливих наслідків.

Ще рекомендую взагалі будь-яку книгу Франса де Вааля. Мені дуже подобається його перша, "Політика у шимпанзе". Я прочитав її двадцять років тому, і вона повністю змінила моє розуміння - не так шимпанзе, як людей і політики. Я б порекомендував, наприклад, Стівену Міллеру прочитати "Політику у шимпанзе". Адже її головний посил: політика - це не лише сила. Якщо думаєш, що станеш альфа-самцем у зграї шимпанзе, просто обходячи всіх і луплячи, ти довго не протягнеш, щоб винести урок зі своєї помилки.

І ще я порекомендував би "Прекрасний новий світ" Олдоса Гакслі, яка, як на мене, чи не найкраща наукова фантастика XX століття - і точно найпророчіша. Він написав її в 1930-ті, на тлі піднесення фашизму і комунізму. Він передбачив, що, можливо, найефективніший і найнебезпечніший спосіб контролювати людей - не гола груба сила, страх і терор, як в Оруелла в "1984". А якщо працювати з принципом задоволення, з людською жадібністю і бажанням, можна зайти далі, ніж якщо просто тиснути і тероризувати людей увесь час.

Езра Кляйн: Юваль Ной Харарі, дуже дякую.

Юваль Ной Харарі: Дякую.