«Подвійна пастка» недовіри: Харарі назвав головний виклик для лідерів епохи ШІ

Ізраїльський історик і футуролог Ювал Ной Харарі на Milan Leadership Forum в Італії назвав виклик, який штучний інтелект ставить перед людством, найбільшим за всю історію лідерства. За його словами, ШІ-революція створює «безпрецедентні можливості, але й безпрецедентні загрози та небезпеки». Щоб вижити й процвітати в епоху ШІ, людству потрібні лідери, які вміють пропонувати радикально нові візії та водночас зберігати й зміцнювати людські зв'язки довіри.

«Якщо люди не можуть довіряти одне одному, ми всі станемо легкою здобиччю для неконтрольованих надрозумних ШІ», — заявив Харарі.

Вежа, яка будується сама

Для пояснення ситуації історик звернувся до біблійного міфу про Вавилонську вежу, до якого в травневій енцикліці про ШІ вдавався й Папа Лев XIV. У міфі люди з однією мовою беруться збудувати вежу до неба, а Бог зупиняє їх не блискавкою чи землетрусом, а тим, що позбавляє спільної мови. Водночас Харарі бачить дві принципові відмінності між міфом і сьогоденням.

Перша: мова більше не інструмент будівництва. Харарі зазначив, що «сьогодні мова сама є вежею, яку ми будуємо». За його словами, ШІ — це нова універсальна мова, мова комп'ютерного коду, яка може вийти з-під контролю й перетворитися з покірного інструмента на самостійного агента.

Друга: у міфі розпад співпраці зупинив будівництво, а тепер усе навпаки. Футуролог зауважив, що «людська співпраця руйнується, а будівельний проєкт лише дедалі швидше прискорюється». За його словами, міжнародний порядок розпадається, суспільства по всьому світу охоплює хаос, а люди втрачають спільну реальність і здатність розуміти й довіряти одне одному.

Подвійна пастка

Саме нестача довіри, пояснив історик, і розганяє будівництво вежі: корпорації та країни не довіряють одне одному, тож змагаються в ШІ-перегонах і вкладають дедалі більше ресурсів, бо кожен боїться відстати. Через це людство, за його словами, опинилося в «подвійній пастці».

«Брак довіри пришвидшує розвиток ШІ, і той самий брак довіри водночас ускладнює для нас утримання ШІ під контролем», — зазначив Харарі.

Вихід історик бачить у тому, щоб виграти час на адаптацію: людство може пристосуватися до життя всередині «ШІ-вежі», як давні організми пристосувалися до кисню, але для цього треба співпрацювати й уповільнити будівництво. Проблема в тому, що засіб співпраці — мова — якраз і виходить з-під контролю.

«Світом правитиме той вид, який краще співпрацює. Усе настільки просто. Завдання людських лідерів — подбати, щоб люди й надалі співпрацювали краще за ШІ», — наголосив Харарі.

Цю тезу про довіру та бюрократію як природне середовище ШІ Харарі розвивав і раніше. Зокрема, під час лекції в Оксфордському університеті він пояснив, що створений людством світ документів, мовних токенів і системних правил є для алгоритмів такою ж життєво необхідною екосистемою, як вода для риб чи атмосфера для біологічного життя. Водночас футуролог наголосив, що реальне підпорядкування світу штучним інтелектом відбудеться не як у «Термінаторі», а через поступове перехоплення контролю над бюрократичними інституціями та заміну довіри між людьми на рішення взаємопов'язаних алгоритмічних мереж.

Час як головна валюта

Окремо Харарі зупинився на тому, що ШІ відбирає в людей час. Люди — органічні істоти, які живуть циклами: день і ніч, літо й зима, активність і відпочинок. 

«Якщо тримати організм постійно активним і зайнятим, без відпочинку, він збожеволіє, зламається й помре», — заявив історик та додав, що саме це зараз відбувається з усім людським суспільством.

Харарі нагадав, що навіть фондова біржа раніше «відпочивала». За його словами, Нью-Йоркська біржа традиційно працює лише з понеділка по п'ятницю з 9:30 до 16:00 і закрита на свята. Якщо війна почнеться о 17:00 у п'ятницю, Волл-стріт відреагує лише в понеділок вранці, а це дає банкірам та інвесторам час відпочити, побути з родинами чи поїхати у відпустку. 

Проте ШІ не органічні: вони не мають родин, не їздять у відпустки й не святкують. Коли вони беруть на себе біржі, банки й медіа, людям теж не дають часу на відпочинок.

Найбільше від цього страждають лідери, вважає Харарі. За його словами, майже всі бізнес- і політичні лідери, яких він зустрічав, не мають права на паузу.

«Якщо у вас немає часу, ви бідні, скільки б грошей ви не мали… Справжня валюта життя — це не гроші, а час», — наголосив історик і зазначив, що гроші існують лише в колективній уяві, тож зрештою вони зроблені зі слів.

Харарі підкреслив, що лідери керують власним розумом, і це їхній інструмент. Думки й почуття лідерів, за його словами, формують долю мільйонів і визначають різницю між війною та миром, між параноєю та довірою. Через прискорення ШІ-революції дедалі більше лідерів не мають ні спокою, ні часу на здоров'я свого розуму, а це, на його думку, погано і для них, і для суспільства.

«Не лише заради себе, а й заради суспільства: знайдіть час, щоб подбати про свій розум. Лише тоді ви зможете знайти шлях відновити довіру між людьми й тим самим зробити так, щоб людство не просто вижило, а й процвітало в епоху ШІ», — підсумував Харарі.

Заява Харарі про замкнене коло недовіри збігається з новою хвилею ескалації в глобальних технологічних перегонах, де страх відставання переважає ризики безпеки. США, Китай та провідні транснаціональні корпорації зараз одночасно вкладають сотні мільярдів доларів у розбудову енергетичної інфраструктури й мереж дата-центрів для запуску надрозумних моделей. За таких умов спроби науковців і міжнародних регуляторів уповільнити розвиток технології для вивчення її впливу на суспільство блокуються геополітичними суперниками, які не готові поступитися темпом досліджень.