Гассабіс: до AGI кілька років, а часу готуватися вже немає

Нобелівський лауреат і голова Google DeepMind Деміс Гассабіс раніше цього тижня зронив на заході Google фразу, від якої скривилася його ж піар-служба: ми стоїмо в передгір'ях сингулярності. У Стенфорді він цю думку розгорнув - до штучного інтелекту людського рівня лишилося кілька років, а суспільство до змін не готове. У розмові з президентом університету Джонатаном Левіном він порівняв прийдешні зміни з десятьма промисловими революціями, спресованими в одне десятиліття, і описав подвійну гонку - між лабораторіями та між США і Китаєм, - у якій обережність обернулася на конкурентний програш. Гассабіс пояснив, чому віддав AlphaFold безкоштовно, чим небезпечна "гонка на дно" в безпеці ШІ і чому, за його словами, майбутнє ще не написане.

---

Сара Соул: Величезна радість бачити всіх вас на розмові з Демісом Гассабісом. Для нас особлива честь, що цю бесіду веде президент Стенфорду Джонатан Левін.

Стенфорд унікальний тим, що багато найважливіших ідей народжуються не всередині окремої школи чи дисципліни, а на їхньому стику. Цей дух міждисциплінарної співпраці особливо важливий зараз, коли штучний інтелект змінює майже всі сфери життя суспільства. І ніде це не має таких наслідків, як у медицині. Я відчуваю це особисто - через тісне партнерство нашої школи бізнесу зі Стенфордською медичною школою, яка взялася за грандіозне завдання: наново придумати, як лікувати рак і боротися з ним, об'єднавши фахівців із соціальних наук, науковців, лікарів, інженерів та новаторів, щоб змінити весь шлях пацієнта - від профілактики до життя після хвороби.

Це амбітне бачення, і воно потребує всіх можливостей великого університету, що працює спільно. Сила Стенфорду не лише в перевазі всередині окремих галузей, а й в умінні пов'язувати їх між собою. Ми зводимо разом дослідників ШІ та лікарів, керівників організацій і науковців, підприємців і людей, глибоко відданих ідеї людського добробуту. Тому сьогоднішня розмова така важлива.

Деміс Гассабіс - дослідник штучного інтелекту, підприємець і нобелівський лауреат, чия робота перебуває саме на цих перетинах. Він співзасновник і CEO компанії Google DeepMind, однієї з провідних у світі лабораторій із дослідження ШІ. Її було засновано як DeepMind у 2010 році й куплено Google у 2014-му. Сьогодні компанія відіграє центральну роль у зусиллях Google у сфері ШІ й подарувала світові кілька визначальних проривів. Серед них AlphaGo - перша програма, що обіграла чемпіона світу з гри го, і AlphaFold, яка розв'язала 50-річну фундаментальну проблему передбачення структури білка: вона точно передбачає тривимірну форму білків. Це прорив з величезними наслідками для розуміння хвороб і розробки ліків. За цю роботу Деміс разом із Джоном Джампером і Девідом Бейкером отримав Нобелівську премію з хімії 2024 року. Він також член Лондонського королівського товариства та Королівської інженерної академії. У 2024 році його було посвячено в лицарі за заслуги перед штучним інтелектом. Кілька разів входив до списку Time 100 найвпливовіших людей світу, зокрема у 2017 та 2025 роках.

Але що робить цей момент у Стенфорді особливо значущим - так це те, що розмова про ШІ тут ніколи не зводилася лише до можливостей технології. Вона завжди була і про людський розквіт. Кілька років тому професорки Фей-Фей Лі та Дженніфер Аакер почали вести у Стенфорді курс "ШІ для людського розквіту", побудований навколо глибоких запитань. Що означає бути людиною? Який вигляд має розквіт? І коли технологія допомагає цим цілям, а коли підриває їх?

Одна думка з цієї роботи міцно засіла в мене в голові: деякі види тертя насправді є несучими. Пошук потрібного слова, незручність важких розмов, складність опанування нового - це не неефективність, яку треба усунути. Навпаки, саме через такий досвід народжуються зростання, самостійність, стійкість і сенс.

Ось чому наша сьогоднішня розмова така важлива. У Стенфорді успіхи ШІ - не абстракція. Вони вже змінюють те, як ми думаємо про відкриття, діагностику, лідерство, навчання і про сам людський потенціал. Вони ж змушують нас всерйоз братися за більші питання - про судження, етику, інституції та про те, яке життя ми зрештою хочемо будувати за допомогою технологій. Дякую, що прийшли, і привітайте разом зі мною президента Джонатана Левіна та Деміса Гассабіса.

Джонатан Левін: Демісе, радий бачити вас у Стенфорді.

Деміс Гассабіс: Чудово бути тут. Дякую всім, що прийшли.

Джонатан Левін: Дякую, що погодилися на це. Я поставлю вам кілька запитань, будуть і запитання від студентів.

Наскрізна лінія кар'єри

Джонатан Левін: Про вас багато писали останнім часом - фільм, книжка, тож багато хто чув про ваш шлях. Він справді вражає: вундеркінд-шахіст, розробник відеоігор, науковець, технологічний підприємець і керівник, нобелівський лауреат. І це лише перша половина кар'єри. Якби ви спробували провести наскрізну лінію через усе це, що б це було?

Деміс Гассабіс: Думаю, таких наскрізних ліній кілька, хоча теми здаються не пов'язаними між собою. По-перше, мені завжди подобалося працювати на перетині творчості й технологій у найширшому сенсі. Індустрія відеоігор, з якої почалася моя кар'єра в 90-ті, була одним з найтворчіших просторів узагалі - там передові технології поєднувалися з мистецтвом і дизайном, щоб створити цілком нове розважальне середовище. Це був приголомшливий час; мабуть, найвеселіші роки в моїй кар'єрі припали якраз на початок 90-х.

Шахи, нейробіологія - усім цим я займався, бо з найранішого віку вважав, що робота над ШІ та AGI (загальним штучним інтелектом, співмірним із людським) - найважливіше й найцікавіше, чому можна присвятити життя. Підлітком я, мабуть, прочитав забагато наукової фантастики, читав такі книжки, як "Ґедель, Ешер, Бах", біографії моїх наукових героїв - Тюрінга, Фейнмана та інших. Усе це надихало мене по-справжньому глибоко зрозуміти навколишній світ. А створення ШІ стало для мене втіленням цієї місії - збудувати досконалий інструмент для науки.

Життя коротке, тому я намагався переробляти кожен свій досвід задля цієї великої дороговказної мети, яка є в мене вже понад 30 років. Шахова підготовка - це те, як я мислю про бізнес, про організацію справ, про планування; уміння розбивати дуже амбітні плани на менші, здійсненні кроки йде саме з шахового мислення. Відеоігри навчили мене інженерних проєктів великого масштабу, управління компаніями та стартапами. А поєднання творчості з інженерією - це рівно те, чим ми сьогодні займаємося з ШІ: це інженерна наука, де творча й наукова робота сплавлені з жорсткою, передовою інженерією. І нарешті, як усі знають, у ранні роки DeepMind ми використовували ігри як ідеальний полігон для перевірки алгоритмічних ідей - мабуть, найвідоміший приклад це AlphaGo, десятиліття якого ми щойно відзначили і який, якщо озирнутися, став початком сучасної епохи ШІ.

"Розв'язати інтелект, потім - усе інше"

Джонатан Левін: Коли ви у 2010-му всерйоз зайнялися ШІ, заснували DeepMind, у вас було дуже амбітне бачення: ви збиралися розв'язати інтелект, а потім розв'язати все інше. Як успіхи? Дозвольте уточню: що пішло за планом, а що - ні?

Деміс Гассабіс: Якщо брати загальні контури, усе склалося - мабуть, неймовірно вдало. Коли ми запускали DeepMind у 2010 році, уявіть: ми ходили до венчурних інвесторів у Британії, яких там і було небагато, з таким бізнес-планом - крок перший: розв'язати інтелект, крок другий: використати його, щоб розв'язати все інше. Люди були, м'яко кажучи, спантеличені. Але ми казали це всерйоз і досі користуємося рівно цим формулюванням місії.

Під "розв'язати інтелект" ми мали на увазі збудувати AGI; в ідеалі дорогою ще й зрозуміти природу інтелекту, а можливо, використати AGI, щоб краще зрозуміти власний мозок і розум - такі речі, як природа свідомості, що таке творчість, сновидіння, усі ці глибокі таємниці психіки. Одна з причин, чому я вивчав нейробіологію, - бажання почерпнути з того, що ми знаємо про мозок, ідеї для алгоритмів.

Крок перший - збудувати AGI. А далі ми завжди тримали в голові те, що й сталося: це технологія загального призначення, можливо, та сама технологія загального призначення. І якщо збудувати її правильно - як дуже універсальну систему, що навчається, - де межа того, до чого її можна застосувати? Мрія була в тому, що майже до будь-чого. І, як на мене, так і вийшло.

Під кроком другим я конкретно мав на увазі просування науки й медицини. Мене заворожували великі питання: природа часу, природа реальності - можливо, найфундаментальніше з них. У школі я любив фізику, це був мій улюблений предмет; коли тебе цікавлять великі питання, ти, найпевніше, приходиш до фізики. Але я вирішив, що цікавих великих питань забагато. Як узятися за все одразу за одне життя? На мій погляд - створюючи нові інструменти, які допоможуть найкращим науковцям і експертам набагато швидше просуватися у своїх галузях. До того ж сам ШІ - це ще й захопливий об'єкт дослідження, по суті нова наукова галузь.

Тож мені це здавалося найзахопливішою й найважливішою справою, якій можна присвятити життя. Я займався б цим, навіть якби нічого не вийшло, - знайшов би спосіб робити це в академії чи деінде. А все, чим я займався раніше, було різними способами набрати досвіду й знань, щоб у 2010 році замахнутися на DeepMind, коли ми відчули, що готові до швидкого прогресу. І друга частина - "використати це, щоб розв'язати все інше" - сьогодні вже набагато ширша, ніж лише наука й медицина, хоча саме там я намагався працювати особисто. Очевидно, що ШІ виявиться приголомшливим для продуктивності й багато чого іншого поза наукою й медициною.

Atari, Pong і перший прорив

Джонатан Левін: У міру того, як ви будували в DeepMind різні моделі - почали з ігор, потім перейшли до науки, - чи були окремі моменти, коли ви раптом побачили: це й справді спрацює? На кшталт ходу AlphaGo?

Деміс Гассабіс: Було багато моментів, коли я думав, що не спрацює, - так точніше. Деякі пам'ятаю дуже добре. Ми почали з ігор, бо вони замкнені в собі. Їх спеціально придумали люди, щоб вони були складними або цікавими для інших людей. І вони часто бувають мікромоделями безлічі реальних ситуацій. Якщо взяти го, покер чи шахи... Я завжди думав, що в програмі MBA чи бізнес-школи варто було б вести модуль з ігор - вивчати такі ігри, дипломатію. У найкращих іграх є по-справжньому цікаві грані реального життя, і при цьому в них можна тренуватися багато разів у безпечній обстановці. Ось чим ігри по-справжньому корисні.

Те саме стосується й систем ШІ, що навчаються: це акуратні, складні середовища з чіткими цільовими функціями - що було дуже важливо для наших ранніх днів із навчанням з підкріпленням (метод, за якого система вчиться методом спроб і помилок, отримуючи винагороди за успіх). Тоді майже ніхто не застосовував навчання з підкріпленням до бодай якихось масштабних задач - це була академічна дисципліна, але її використовували переважно для іграшкових задач на кшталт маленьких клітинкових світів. Було незрозуміло, чи масштабується це хоч до чогось серйозного.

Тому ми почали з найвідоміших, але водночас найпростіших ігор, що стали всесвітньо популярними, - ігор Atari 70-х років. І почали з найпростішої з усіх, Pong: дві ракетки і м'яч. У гру вбудовано систему, що керує вашим суперником: вона використовує всю інформацію, яка є в гри, - де м'яч і таке інше, - щоб рухати ракетку. А ми хотіли зрозуміти: чи можна грати в Pong, маючи лише пікселі на екрані? Тільки сирі дані, сирий відеосигнал - і більше нічого. Жодної привілейованої інформації про нутрощі програми, про те, де м'яч і яка його швидкість, хоча самій програмі це, звісно, відомо.

Нашій системі для Atari - вона називалася DQN - ми нічого цього не давали. Вона отримувала лише 20 000 пікселів на екрані. Зараз це здається дрібницею, але в 2010 році це був величезний обсяг вхідних даних. Ніхто раніше не мав справи з чимось настільки складним, та ще й помноженим на всі кадри. І місяців шість - хоча за відчуттями, може, лише два - ми не могли виграти в Pong жодного очка. Система просто смикала ракетку туди-сюди. Я думав: та чи навчиться вона взагалі бодай керувати ракеткою? У неї не було жодних уявлень про все це, і вона програвала вбудованому ШІ з рахунком 21:0.

У нас було кілька різних підходів, і майже не було грошей. Та пара мільйонів доларів фінансування, яких сьогодні не вистачило б навіть на стажиста, - це був увесь наш бюджет, і для вас, студентів, це гарна новина. Зарплати ми собі майже не платили, гроші закінчувалися. І я думав: ну що ж, може, ми й справді на десять років зарано, а може, і на двадцять. А потім вона раптом дивом узяла очко - і я подумав: може, просто пощастило. Потім вона почала брати багато очок, потім почала вигравати партії, і тут стало зрозуміло: усе, злетіли.

Ті з вас, хто займається машинним навчанням, це знають: якщо зачепився, то зазвичай можеш крок за кроком видряпатися нагору. Така взагалі історія ШІ: щойно щось запрацює - і майже завжди знаходиться спосіб це оптимізувати. Так вийшло з Atari. Це був наш перший великий результат і перша стаття в Nature - по суті, перша модель глибокого навчання з підкріпленням у масштабі: глибоке навчання, щоб опанувати галузь і впоратися зі складними зоровими входами й знайти в них закономірності, а поверх нього - навчання з підкріпленням, щоб ухвалювати рішення й планувати.

AlphaGo: хід, якого ніхто не бачив

Деміс Гассабіс: І звісно, усе це вилилося в AlphaGo, до чого ми й прагнули. Девід Сілвер, який очолював той проєкт, і я дружили ще зі студентських років у Кембриджі й обговорювали це ще тоді, у середині 90-х. Матч Deep Blue проти Каспарова стався, поки ми були в університеті. Мене він заворожував і з шахового боку, і з погляду ШІ. Але мозок Каспарова вражав мене більше, ніж Deep Blue. Каспаров зі своїм неймовірним розумом - один з найбільших шахових геніїв усіх часів - на рівних змагався з цією суперкомп'ютерною машиною грубої сили, що стояла поруч. Але при цьому він умів робити своїм розумом усе інше: говорити п'ятьма мовами, займатися політикою, керувати автомобілем - усе, що вміє людина. Ось це було по-справжньому вражаюче, набагато сильніше.

Отже, у системі Deep Blue чогось бракувало. Ті експертні методи, де вручну задають евристики, а поверх пускають перебір грубою силою, - так досі працюють багато класичних шахових програм, - годяться для шахів, але для го вони ніколи не працювали. Го - гра надто езотерична: у ній немає матеріалу, усі камені рівноцінні, усе тримається на візерунках та інтуїції. Навіть найсильніші гравці в го грають саме так. І ми подумали: якщо хтось і справді дійде до рівня чемпіона світу в го, то цінне не саме це досягнення - воно радше побічне, - а те, що потрібний підхід майже напевно виявиться по-справжньому цікавим алгоритмічно і, сподіваюся, узагальниться на інші галузі. Так і вийшло з AlphaGo.

І все перевершило наші найсміливіші мрії. AlphaGo не лише виграв матч у Лі Седоля у 2016 році - він створив нові, ніколи раніше не бачені стратегії, хоча го - найдавніша гра, придумана людством, їй понад дві тисячі років, і професійно в неї грають сотні років. А цих стратегій ми не відкрили. Для мене це був подвійний тріумф. Я чекав того моменту, коли ШІ зможе придумати щось по-справжньому нове. Це, звісно, не найвищий рівень творчості, є й вищі, але це була бодай нова ідея. І саме цього моменту я чекав, щоб почати застосовувати ШІ в науці. Щойно ми повернулися з Сеула, ми запустили проєкт AlphaFold.

AlphaFold: чому його віддали безкоштовно

Джонатан Левін: Поговорімо про науку. Ви перейшли до проблеми згортання білка - і знову обрали задачу, де були дані й чітка цільова функція. І все вийшло: ви й справді розв'язали давню проблему передбачення структури білка. При цьому ви зробили дещо дуже цікаве. AlphaFold був величезним науковим проривом, гідним Нобелівки, і, ймовірно, мав велику комерційну цінність - а ви просто роздали його безкоштовно. Як ви дійшли цього рішення? Чи думали про інші варіанти? Чому віддали задарма?

Деміс Гассабіс: Ми обрали проблему згортання білка. Вона була в мене на прицілі теж зі студентських років у Кембриджі - там я вперше з нею зіткнувся. У мене було кілька друзів-біологів, схиблених на цій проблемі; зрештою вони стали структурними біологами. Один з них щоразу, коли ми грали в пабі в настільний футбол, нав'язливо твердив, що це найважливіша проблема біології. І що ще важливіше, я сприймаю її як кореневу: якщо її розгадати й знайти структури білків, це відкриє цілі нові напрями досліджень - очевидно, розробку ліків, але й фундаментальну біологію, і розуміння хвороб. Тож на цю задачу варто було витратити масу уваги й часу - через усі її наслідки нижче по ланцюжку.

До того ж сама задача здавалася мені заворожливою - вершина головоломки: як послідовність амінокислот, яку можна мислити як генетичну послідовність, згортається в тривимірну структуру. Напрочуд цікава, тонка штука. Що більше я заглиблювався в білки, то сильніше зростало моє захоплення біологією - ці неймовірні крихітні біологічні наномашини. Усе життя залежить від білків; починаєш дивитися на їхню структуру - і починаєш розуміти їхню функцію. Як наукове питання це мене заворожувало.

І так, тут була чітка мета - щось на кшталт мінімізації вільної енергії системи. Вочевидь, саме так це робить фізика - тому білки у вашому тілі згортаються за мілісекунди, мільярди разів на секунду. Якщо фізика якось це розв'язує, отже, має бути певна топологія, яку можна вивчити за допомогою системи глибокого навчання, щоб вона спрямовувала пошук - рівно як ми зробили з AlphaGo, відшукуючи сильний хід у го серед більшої кількості варіантів, ніж атомів у Всесвіті. У згортання білка простір пошуку навіть більший, але має бути спосіб розумно його звузити: вивчити свого роду евристику за допомогою моделей глибокого навчання, щоб спрямовувати пошук і зробити задачу розв'язною. Це здавалося задачею, дуже схожою на ту, що ми розв'язали в го, - можна було застосувати ті самі підходи й ідеї до нової галузі.

І ще одне. За плечима було 50 років копіткої роботи з кристалографії та структурної біології, виконаної безліччю прекрасних лабораторій і людей. Після всіх цих зусиль у PDB (Protein Data Bank - головній базі даних структур білків) накопичилося близько 150 000 структур. Насправді це небагато: за цим стоїть колосальна праця, але білків існує 200 мільйонів, а 150 000 для систем машинного навчання - дуже мало даних. Тому більшість вважала, що до достатнього обсягу даних і потрібних алгоритмів ще років десять-двадцять. Але ми відчули, що, задіявши всі відомі нам прийоми, зрештою зможемо просунутися. Так і вийшло.

Коли ми вирішували, як домогтися максимального ефекту, мені було очевидно: треба згорнути всі білки. AlphaFold був не лише точним, а й надзвичайно швидким - він згортав білок за лічені секунди. Зрештою ми разом з Європейським інститутом біоінформатики в Кембриджі, де зберігаються багато найбільших біологічних баз даних, виклали всі 200 мільйонів структур білків у їхню базу - так, щоб знайти структуру свого білка було так само просто, як зробити пошук у Google. Разом з довірчими інтервалами: система машинного навчання показувала, у яких частинах структури вона впевнена, а в яких ні, - це дуже важливо знати біологам.

Це, звісно, могло коштувати дуже дорого - не знаю, скільки мільярдів доларів, залежно від того, як рахувати; зробити це експериментально коштувало б і взагалі незліченно, і тримати у власності було б величезною цінністю. Але для нас було ясно: самі ми змогли б лише подряпати поверхню того ефекту, який дадуть ці структури, викладені у відкритий доступ. По всьому світу AlphaFold користуються близько трьох мільйонів дослідників - практично щодня. Майже кожен біолог і медичний дослідник у світі. Жодна організація поодинці такого не зробила б. Тож це явно було правильне рішення.

До того ж перші версії AlphaFold ми навчали на публічних даних - отже, було лише справедливо повернути цей дивовижний ресурс спільноті структурних біологів, яка його так копітко створювала. Для мене це навіть не було питанням. Чудово, що й керівники Google люблять науку і одразу це зрозуміли - не певен, що всі компанії ухвалили б таке рішення, тож їм за це велика повага. Це була легка розмова. А далі ми самі намагаємося рухати це вниз по ланцюжку через Isomorphic Labs - дочірню компанію Alphabet, яка будує кілька проривів рівня AlphaFold і поєднує їх так, щоб, сподіваюся, прискорити розробку ліків - скоротити її з років до місяців, а може, колись і до тижнів. Рівно як ми зробили зі структурами білків, на одну з яких раніше йшли роки, а тепер вистачає секунд. Це один з по-справжньому хвилюючих напрямів майбутнього з ШІ.

У передгір'ях сингулярності

Джонатан Левін: Хочу на хвилину повернутися до того, що ви сказали на початку цього тижня. Ви потрапили в новини, бо на великому заході Google заявили, що ми перебуваємо в передгір'ях сингулярності.

Деміс Гассабіс: Так, ця фраза розійшлася доволі широко.

Джонатан Левін: Дуже широко. І я розумію, що піар-команда Google, можливо, була не в захваті. Але якщо вже ви це сказали - що ви мали на увазі?

Деміс Гассабіс: Повністю я сказав ось що - цим я закривав конференцію: коли ми озиратимемося на цей час - я думаю, років через десять, - ми зрозуміємо, що стояли в передгір'ях сингулярності. Що я під цим розумію і чому обрав саме це слово. Є технологія - AGI; так ми називаємо цю наступну версію по-справжньому універсального штучного інтелекту. Я впевнений, що до неї лишилося всього кілька років - може, до 2030 року плюс-мінус рік, що саме по собі вражає. А далі настане епоха, яка, я думаю, виявиться настільки величезною й перетворювальною, що по суті стане новою ерою людства. Ось що я розумію під сингулярністю - і про що писали багато фантастів: це опис епохи, у якій ми опинимося приблизно тоді, коли з'явиться AGI.

І, як на мене, цього року це можна відчути. Хоча я працюю над цим 30 років, саме цього року - з тим, як працюють агенти й використання інструментів, - усе це почало ставати по-справжньому корисним у робочих процесах людей. Ще рання стадія, але вже справжня користь. І ми приблизно розуміємо, що ще треба доробити; усі провідні лабораторії над цим працюють. Думаю, це сам початок, передгір'я - попереду ще багато роботи. І річ не в чомусь одному, а в кількох різних технологіях і сценаріях використання; деякі речі, які я вважав віддаленішими, виявилися вже тут. У сукупності це й змушує мене так казати. А сказати це я хотів тому, що суспільству треба це почути: у нас мало часу, щоб підготуватися до того, що це означає. Наслідки будуть колосальними, і майбутнє, на мій погляд, ще не написане. Але найближчі кілька років стануть критично важливими - у який бік усе піде і яким ми всі разом хочемо це бачити.

Чому суспільство боїться ШІ

Джонатан Левін: Якщо подивитися опитування про те, як люди сприймають ШІ - особливо в цій країні, - зараз настрій дуже негативний. Можливо, негативніший, ніж в інших країнах. Причин, мабуть, багато: тривога про приватність, про держконтроль, про розмір техкомпаній, про робочі місця. Ви керуєте однією з провідних лабораторій - як ви ставитеся до цієї суспільної тривоги?

Деміс Гассабіс: Думаю, суспільство має право тривожитися. Є речі, які непокоять і мене - кілька аспектів того, чим є ця технологія. Вона подвійного призначення. Щось настільки глибоке... Я іноді описую її так: за масштабом це десять промислових революцій, спресованих і таких, що йдуть удесятеро швидше - за десятиліття, а не за століття. Тобто це ніби стократна промислова революція. І, чесно кажучи, це, найпевніше, ще й недооцінка, але й цього досить, щоб спробувати осмислити й упоратися.

Звісно, буде й маса всього захопливого - наприклад, ми намагаємося впоратися з усіма хворобами. Я впевнений, що ШІ допоможе з багатьма викликами, що стоять сьогодні перед суспільством: від клімату й енергетики до хвороб. Я б куди сильніше тривожився про ці виклики, якби не думав, що на підході щось на кшталт ШІ. Але він спричинить і безліч змін і потрясінь - і технічних, і економічних, і філософських. Нам треба все це дуже вдумливо продумати й зібрати разом усі частини суспільства, а не лише технологів. Технологія та її безпека - лише один шматочок. Потрібні економісти, суспільствознавці, фахівці з людини й людства, щоб накреслити, що буде далі.

Думаю, одна з причин негативу саме тут - у тому, що в інших країнах усе інакше. Наприклад, ми повернулися із саміту в Індії - там ШІ страшенно популярний у молоді, бо вона бачить можливості, що відкриваються: доступ приблизно до тих самих інструментів, заради яких раніше треба було їхати в Кремнієву долину. Ми живемо в дивовижний момент: майже кожен може отримати доступ до того, що відбувається в передових лабораторіях, із затримкою всього в кілька місяців. Якщо вдуматися, це щось нечуване.

Але почасти річ і в тому, як деякі мої колеги по цеху все це формулюють. Як на мене, вони недостатньо обережні в комунікації і надто категоричні у своїх заявах - там, де насправді величезна невизначеність. Сама ця невизначеність тривожна, але вона ж означає, що нічого ще не вирішено наперед. Про напрям дещо сказати можна, але дуже багато залежить від дій найближчих років - і від вас, сьогоднішньої молоді, багатьох студентів у цій залі. Ви перше покоління, що виросло, можна сказати, на ШІ - як я виріс на комп'ютерах. І, як кожне покоління, ви опануєте ці технології й станете з ними дуже продуктивними. Думаю, принаймні найближчі десять років - далі передбачати важко - ви будете буквально наділені суперздібностями, якщо користуватиметеся ними правильно. Обсяг творчості й проєктів, який зможе потягнути одна людина, різко зросте. Але це, можливо, змінить і саму природу зайнятості - стане більше невеликих підприємницьких починань, а не великих компаній. Не знаю. Зміниться багато що.

І частина цього - у тому, щоб суспільство об'єдналося й усерйоз сприйняло цю експоненту. Не лише технологи - економісти й інші. Ми якраз обговорювали це вчора ввечері: усе це треба сприйняти всерйоз просто зараз і почати накреслювати, як це виглядатиме. Якщо ми опинимося, наприклад, у світі достатку, де дефіциту більше немає, - як зробити, щоб вигоду отримали всі? Очевидно, неправильно, щоб від цієї технології вигравали лише кілька людей, чи кілька компаній, чи навіть кілька країн. Вигода має бути широкою - це торкнеться всього людства, і блага мають дістатися всім. Але як саме це зробити? Багато хто з нас давно про це говорить, але відповіді й конкретні дії потрібні вже зараз. Я маю намір зробити свій внесок. Ми важливий гравець, але все ж лише один із гравців. Гарна новина в тому, що всі провідні лабораторії та їхні керівники, хоч і розходяться в багатьох питаннях, справді тривожаться про такого роду проблеми, що насуваються. Але нам потрібно більше майданчиків, щоб відвертіше все це обговорювати. Думаю, саме це публіка й вловлює - трохи перекошені розмови про те, що буде; а за частиною цих повідомлень, можливо, стоять і приховані мотиви - залучення грошей та інше. Нам треба користуватися науковим методом, бути по-справжньому суворими й вдумливими в цей критичний момент історії.

І, мабуть, останнє. Я б дуже хотів, щоб галузь і все поле недвозначно показали, у чому користь, - і не просто говорили про неї, а демонстрували. У здоров'ї, у медицині, у науці - це, на мій погляд, безумовні блага, як AlphaFold. Але таких прикладів недостатньо. Їх має бути двадцять, як AlphaFold. Треба перестати міркувати гіпотетично про перемогу над раком і справді перемогти рак. Ось що потрібно, щоб показати людям, чому ті з нас, хто наснажений усім цим - а в цій залі таких багато, - чому ми присвятили цьому життя і як саме ми збираємося знижувати ризики, даючи при цьому дорогу всьому тому чудовому, що ми хочемо побачити і що потрібне суспільству.

Джонатан Левін: Багато чудових думок. Якби з'явилися відчутні вигоди від проривів ШІ - скажімо, для здоров'я людей чи розробки ліків, - це, можливо, змінило б сприйняття. І мені подобається думка спробувати зазирнути далі вперед, у світ, який може виглядати зовсім інакше з погляду продуктивності. Це й справді важко. У соціальних науках рідко вдається вирватися за нинішні рамки й зазирнути далеко вперед. Я згадую прекрасне есе Кейнса часів Великої депресії, де він дивиться на економічне життя наших онуків. Учора ввечері ви казали, що зараз нам потрібен новий Кейнс - і, можливо, хтось у цій залі ним стане.

Гонка лабораторій і питання регулювання

Джонатан Левін: Дозвольте запитати ось про що. Багато років ви говорите про те, що передовим лабораторіям треба в певному сенсі саморегулюватися - іноді не випускати певні технології, які можуть загрожувати безпеці. Зараз же очевидно, що лабораторії мчать у скаженій гонці, вкладають усе, ідуть ва-банк. Ви досі вважаєте, що лабораторії мають саморегулюватися? Чи думаєте, що втрутитися має держава? Як ви бачите нинішню динаміку порівняно з тим, як думали про це раніше?

Деміс Гассабіс: Спершу трохи історичного контексту. Ми вже говорили про те, як розвивалася технологія. Як на мене, вона розвивалася вражаюче - може, навіть краще, ніж я уявляв 20 років тому. А ось середовище, у якому все це народжується, далеке від ідеалу. Дуже далеке. Років 15-10 тому я сильно тривожився, що виникне саме така гоночна динаміка - у міру того, як дедалі більше людей, компаній і амбітних техлідерів усвідомлювали те, що я розумів уже 20 з гаком років: наскільки важливою виявиться ця технологія. Ми говорили про небезпеки такої гонки. І, на жаль, до неї ми й прийшли - через те, як склалася технологія.

Якби я міг змахнути чарівною паличкою, я збудував би AGI - загальну технологію - радше в дослідницькому центрі на кшталт ЦЕРНу: найкращі уми критикують ідеї одне одного, ми суворо дотримуємося наукового методу, ретельно все тестуємо й розуміємо кожен зроблений крок. При цьому не довелося б чекати заради суспільної користі: AGI з'явився б пізніше, може, на десять років, але паралельно ми відламували б від нього шматки й використовували їх для спеціалізованих систем - більше таких AlphaFold, що перемагають хвороби. Це можна робити вже зараз, бо AlphaFold - спеціалізована гібридна система: вона використовує багато ідей із систем загального призначення, але заточена під згортання білка. Таким і було моє бачення - адже саме цим ми й займалися.

Але чат-боти все змінили. По суті, це, мабуть, єдиний сюрприз для мене за останні 15 років з наукового боку - наскільки ефективними виявилися трансформери (архітектура нейромереж, що лежить в основі мовних моделей) для мови, і те, що мову можна відокремити й вивчити просто з інтернету, не діючи у світі - ні через робототехніку, ні через симуляції. Це дуже цікаво, і чому так вийшло - тема для окремої розмови. У мене є кілька теорій: мова більше вкорінена в реальності, ніж, імовірно, думали лінгвісти, і частина цієї вкоріненості приходить зі зворотного зв'язку з підкріпленням, який дають люди-оцінювачі. Ми ж укорінені в реальному світі, тому коли ми кажемо "так" чи "ні" певним речам, наша вкоріненість дуже вузьким каналом усе ж просочується й змінює те, як базова модель розуміє світ. Ось такі несподівані речі сталися - і це зробило технологію дуже важливою комерційно, такою, що її можна масштабувати інженерією й грошима. Це ви й бачите сьогодні. Це змінило динаміку й породило , мабуть, найлютіше конкурентне середовище, яке я будь-коли бачив. Принаймні в техіндустрії й точно в нашу епоху, а може, і взагалі будь-коли - історики з бізнес-школи мене виправлять. Але зсередини це відчувається неймовірно напружено, і так це відчувають усі учасники.

А поверх цього накладається геополітична складність. Іде подвійна гонка: гонка між компаніями, для яких це питання життя і смерті, і гонка по лінії США - Китай і не лише. Це дуже підступна, двошарова гонка. Я все ж сподіваюся, що якась співпраця й координація можливі - ми, керівники лабораторій, точно обговорювали це в частині безпеки. Ніхто не хоче, щоб сталася катастрофа. Проблема в тому, що ми опинилися у своєрідній дилемі в'язня: за визначенням, якщо ти витрачаєш більше часу на випуск чогось або робиш це безпечнішим - а це важче, ніж просто викласти й подивитися, що буде, - то в того, хто порушує домовленість, з'являється перевага. Це класична проблема гонки на дно, і її нам треба якось терміново переламати. Думаю, частина рішення - певна форма участі держави.

Складність, звісно, у тому, що все, пов'язане з регулюванням, надто повільне. Тут щотижня з'являється щось нове. Якби ми щось зарегулювали два роки тому, зараз це виглядало б як давня історія - майже напевно не те, що потрібно. Тому хоч би що придумали - а в мене є ідеї, про які я, імовірно, розповім пізніше цього року, - регулювання має бути динамічним. Зазвичай це слово з регулюванням не поєднується. Воно має бути легким, спритним, спиратися на найсвіжіші розробки, щоб підлаштовуватися під реальний ризик, а не під уявний, який виявиться несуттєвим. Інакше для ШІ це просто не спрацює. Навіть сьогодні провідні науковці не зійшлися б на короткому списку потрібних стримувань і противаг - я точно знаю, що не зійшлися б. І це тому, що наука тут ще не устоялася. Почасти через швидкість, але й тому, що темп прогресу випереджає його розуміння. Так уже є, це частина гоночної динаміки. Нам треба якось це перебалансувати; думаю, потрібне певне розумне регулювання - динамічне, здатне швидко змінюватися разом із часом і, ймовірно, таке, що спирається на провідні лабораторії, бо саме вони бачать, що відбувається на передньому краї.

Джонатан Левін: Тут є що обговорювати ще дуже довго - як вибудувати систему регулювання ШІ так, щоб не завадити тим самим позитивним проривам, про які ви говорите, і при цьому врахувати геополітику. Ми хочемо перемагати хвороби - то як же дати дорогу хорошим сценаріям і при цьому стримати погані? Чекаю з нетерпінням вашого плану, який ви представите цього року, - це буде чудово й дасть нам багато тем для розмови і тут, у кампусі, і всюди. Дамо слово студентам - у нас є кілька запитань.

Запитання із зали: доступ для бідних країн

Аринда: Привіт, Демісе. Я Аринда, другокурсниця бізнес-школи. Моє запитання: як ви балансуєте між тим, щоб рухати передній край ШІ, і тим, щоб дивіденди для здоров'я й науки розподілялися рівномірно - у таких місцях, як Африка й глобальний Південь, де потреба найбільша, а інфраструктура для впровадження й досліджень найобмеженіша?

Деміс Гассабіс: Ми багато про це думаємо. Це повертає нас до AlphaFold: ми згорнули всі білки й виклали їх у бази, доступні звідусіль у світі. Ці три мільйони дослідників - із 190 країн, тобто практично з кожної країни. Спочатку ми запускали перші спільні проєкти, показуючи, що можна робити з AlphaFold. Ми працювали з DNDi - ініціативою з ліків від забутих хвороб, частиною структури при ВООЗ у Швейцарії, - яка займається хворобами бідних регіонів світу зі слабкими системами охорони здоров'я. Деякі з цих хвороб забуті, бо великій фармі на таких ринках не заробити, і тому на хвороби, що вражають переважно ці регіони, виділяють менше дослідницьких ресурсів.

У співпраці з цим інститутом і багатьма університетами на місцях ми змогли перестрибнути етап, де їм довелося б копітко визначати структури - скажімо, малярійного вірусу чи вірусу Зіка. Тепер вони можуть вважати ці структури даністю й одразу працювати над ліками. Це колосально прискорює весь процес: береш цікаву структуру - і рухаєшся далі. Те саме зі стійкістю сільгоспкультур до зміни клімату. Ми працюємо з інститутом Дженніфер Дудни й багатьма іншими, бо структури безлічі рослинних білків не були відомі - адже більша частина структурної роботи йшла по людських білках, а по тваринах і рослинах даних куди менше. Тому тут ефект навіть відчутніший саме в таких галузях.

І останнє. Думаю, тут капіталістичний двигун може спрацювати на благо. Якщо нам удасться зробити платформу розробки ліків, над якою ми працюємо в Isomorphic, настільки ефективною, як я кажу, - скоротити з років до місяців, - так що замість мільярдів доларів ліки коштуватимуть десятки чи навіть одиниці мільйонів, тоді я сподіваюся ось на що: ми перемагатимемо важкі хвороби, що вражають багатші частини світу, це приноситиме гроші й живитиме двигун, а паралельно компанія зможе на благодійних засадах знаходити ліки від хвороб, де не потрібно повертати вкладення, - бо це буде досить швидко й дешево, щоб просто зробити це за короткий час. Ось моя мрія про те, як Isomorphic може допомогти всьому світу.

Запитання із зали: наслідки другого порядку

Мікі: Привіт, Демісе, дуже дякую, що знайшли час. Мене звати Мікі, я студентка останнього курсу Стенфордської школи сталого розвитку імені Дорра. Ви докладно описали, як AGI може стати найперетворювальнішою технологією людства. Мені цікаво, як ви думаєте про відповідальність і про соціальні наслідки поряд із цим інтелектуальним новаторством і зростанням продуктивності, яке несе AGI, - особливо коли йдеться про те, як це переозначить і перекроїть проблеми, які ми намагаємося розв'язувати сьогодні, і про наслідки другого порядку, які це може принести?

Деміс Гассабіс: Я думаю про це постійно, причому від самого початку, бо ми планували в розрахунку на успіх - хоча 15-20 років тому успіх здавався дуже малоймовірним. Ось чому мені подобається виступати в таких місцях і зустрічатися з людьми: це в певному сенсі заклик до дії. Дуже терміново по-справжньому замислитися про наслідки другого порядку. Думаю, для багатьох із вас, хто займається гуманітарними дисциплінами, зараз, на мій погляд, ваш час. Так, нам треба правильно зробити технологію, але потім постає питання економіки, а якщо й його розв'язати правильно - філософські питання про людський стан.

Я дуже наснажений і налаштований оптимістично - точніше, я обережний оптиміст. Я вірю, що ми все це зробимо правильно, і я великий прихильник людської винахідливості, особливо коли тисне необхідність. Людство завжди видряпувалося, коли було зовсім скрутно, - а зараз саме так. Але нам і справді треба почати ставитися до цього серйозно. Технологи, як на мене, ставляться; а ось решті частин суспільства теж час. Мене завжди трохи вражає, коли я говорю з економістами про те, що відбувається, - вони доволі скептичні. "А де це видно у ВВП?" А я їм: послухайте, це десять промислових революцій. Може, почнемо планувати це вже зараз?

Ми опинимося у світі - учора ми це обговорювали, - де, думаю, знадобляться гіганти у своїх галузях, як колись Кейнс. Чому колишні правила мають працювати у світі достатку? Якщо ми правильно зробимо технологію, ми вперше в історії людства опинимося у світі ненульової суми. Як це може не потребувати нового типу економічної системи? Це неминуче. І, як на мене, не підійде жодна з тих, що ми пробували, - усі вони створювалися в логіці нульової суми, в обмеженому, дефіцитному світі. А я кажу про подорожі до зірок і використання всіх ресурсів Сонячної системи, а не лише обмежених земних. Думаю, це й справді станеться, якщо ми правильно зробимо технологію в найближчі 10-20-30 років. А після всього цього постає ще важче питання: як ми хочемо розвивати наше суспільство, що є чеснотою, що є сенс і призначення. Думаю, тут знадобиться безліч великих філософів. Тож мій заклик до людей із цих галузей: зараз, на мій погляд, не може бути захопливішого часу, щоб працювати над такими речами, - якщо тільки ви розумієте й по-справжньому, нутром, відчуваєте, що тут насправді відбувається.

Джонатан Левін: Гарний наказ університету. Гаразд, ще одне запитання від студента.

Запитання із зали: чого ШІ не повинен торкатися

Джанай: Привіт, Демісе, я Джанай, другокурсниця програми MBA. Моє запитання: чого ви не хотіли б, щоб ШІ торкався за вашого життя, і що ви тримаєте для себе як заповітне?

Деміс Гассабіс: Чудове запитання. У науковому сенсі ШІ - цілком універсальна технологія. Можна думати про нього як про машину Тюрінга - це був мій улюблений курс в університеті. І наш розум, як на мене, теж цілком універсальний: ми свого роду наближені машини Тюрінга. Як показав Тюрінг, усе, що обчислюване, машина Тюрінга може обчислити. А майже все, що ми знаємо про Всесвіт, - усе неквантове - обчислюване. Це доволі велика множина речей, до яких ми можемо звернути свій розум. Так ми й збудували сучасну цивілізацію - що саме по собі диво, якщо зупинитися й подумати. Ми недостатньо дивуємося; ми не зберігаємо відчуття подиву так довго, як варто було б. Але це означає й те, що системи, які ми будуємо, теж будуть по-тюрінгівськи потужними.

Скажу одне: попереду дуже великі питання, над якими, думаю, краще б не поспішати. Одне з найзлободенніших зараз - свідомість. Це не дуже коректно поставлена проблема ні у філософії, ні в нейробіології, хоча інтуїції про те, що в ній важливо, є в усіх нас. Моє відчуття: нинішні системи не виявляють свідомості - але інші зі мною не згодні. Що я порадив би щодо того, чого ШІ не повинен торкатися: перші системи нам варто будувати як інструменти, як інтелектуальні інструменти. Це вже досить великий виклик, бо це і є AGI. А потім, користуючись цими інструментами, нам варто вивчати нейробіологію, філософію тощо й виробити суворіше визначення таких речей, як свідомість. Думаю, це можливо. Потім перевіряти щось відносно цього визначення - і, можливо, як суспільство вирішувати, чи хочемо ми перейти другий Рубікон: намагатися створювати сутності, які бодай здаються нам свідомими. Можливо, ми не захочемо ухвалювати таке рішення.

Я вважаю, що інтелект і свідомість розділимі. Не думаю, що для інтелектуальної системи обов'язково потрібна свідомість. Як на мене, це вибір; ви, мабуть, можете вловити це, коли користуєтеся деякими провідними чат-ботами, - там просвічують різні підходи. І мій погляд: краще рознести це на два кроки. Обидва величезні для людства, і не варто їх змішувати.

Порада студентам: джина назад не загнати

Джонатан Левін: Демісе, у нас повна зала студентів. Якби ви знову опинилися в університеті - як би ви думали про те, що вивчати? Яку пораду ви б їм дали про те, як думати про навчання й кар'єру?

Деміс Гассабіс: Я був би по-справжньому наснажений, якби знову опинився в університеті. Тим із вас, хто займається природничими науками, STEM, математикою, інформатикою, я б порадив і далі цим займатися. Думаю, ви зможете краще використовувати ці інструменти, якщо розумієте, як вони влаштовані й на що здатні. Принаймні найближчі десять років це буде так. І ще я б порадив не відмахуватися від них, а навпаки - занурюватися. Джина назад у пляшку не загнати, тож використовуйте по максимуму те, що ці інструменти вміють.

Скажу вам: провідні лабораторії так зайняті створенням інструментів, що ми, мабуть, лише подряпали поверхню того, на що вони здатні. Навіть у сьогоднішніх інструментів є те, що іноді називають запасом нерозкритих можливостей. У них стільки потенціалу, якщо придумати, як поєднати їх із чимось ще або з іншою галуззю, у якій ви експерт, вбудувати їх у свій робочий процес цікавим чином. У вас є ці інструменти - найпотужніші інструменти, які взагалі є в будь-кого, просто у вас у руках. Як окрема людина ви можете зробити набагато більше. Думаю, це має вивільнити творчість. Ті з вас, хто вивчає гуманітарні науки, продукт чи бізнес, - може, раніше у вас не було навичок програмування, але тепер вони й не потрібні: ви можете втілити багато чого з того, що у вас у голові, просто за допомогою цих інструментів. А програмісти-експерти зможуть робити у сто разів більше - за масштабом проєкту, який вам до снаги. Тобто це дає і демократизацію, і зростання для фахівців. Дивовижний час.

Але він і тривожний, бо все зміниться. Це єдине, що я можу сказати вам напевно: у найближчі десять років усе зміниться - імовірно, сильніше, ніж люди думають. Але за будь-яких величезних змін є й величезні можливості. Інакше й бути не може. Світ, по суті, біля ваших ніг. Я трохи заздрю вам: ви перше покоління, яке буде з ШІ на "ти", як моє покоління було на "ти" з комп'ютерами та інтернетом. Зрештою саме у ваших руках, студентів у цій залі, опиниться те, як збудується майбутній світ.

Це дуже захопливий час, якщо дивитися під правильним кутом, з уявою й творчістю. Хоча так було, мабуть, завжди - але, може, зараз особливо, у періоди величезних змін, це загострюється. Учора ми говорили: в епоху великих змін, коли не зовсім розумієш, що несе майбутнє, треба вміти бути гнучким і мати широкий світогляд. Це буде золота ера для вільної, гуманітарної освіти. Тож головне, як на мене, - подвоїти ставку на власну суб'єктність. Майбутнє ще не написане. І не слухайте нікого, хто каже, що це не так.

Джонатан Левін: Демісе, дякую, що були з нами. Це було приголомшливо.