Ерік Шмідт виступає проти «Манхеттенського проекту для AGI»

У аналітичному документі колишній генеральний директор Google Ерік Шмідт, генеральний директор Scale AI Александр Ван і директор Центру безпеки штучного інтелекту Ден Хендрікс заявили, що США не повинні прагнути до розробки систем ШІ з «надлюдським» інтелектом, також відомих як AGI, у стилі Манхеттенського проєкту.

У документі під назвою « Стратегія суперінтелекту » стверджується, що агресивні спроби США виключно контролювати надрозумні системи штучного інтелекту можуть спричинити запеклу відплату з боку Китаю, потенційно у формі кібератаки, яка може дестабілізувати міжнародні відносини.

«[A] Манхеттенський проєкт [для AGI] припускає, що суперники мовчазно погодяться на стійкий дисбаланс або всевбивство, а не діятимуть, щоб запобігти цьому», — пишуть співавтори. «Те, що починається як поштовх до суперзброї та глобального контролю, ризикує спровокувати ворожі контрзаходи та ескалацію напруженості, тим самим підриваючи саму стабільність, яку має забезпечити стратегія».

У співавторстві з трьома дуже впливовими діячами американської індустрії штучного інтелекту ця стаття вийшла лише через кілька місяців після того, як комісія Конгресу США запропонувала спробу фінансування розробки AGI у стилі «Манхеттенського проекту» за моделлю американської програми створення атомної бомби в 1940-х роках. Міністр енергетики США Кріс Райт нещодавно заявив, що США перебувають на « початку нового Манхеттенського проекту » щодо штучного інтелекту, стоячи перед сайтом суперкомп’ютерів разом із співзасновником OpenAI Грегом Брокманом.

Документ «Стратегія суперінтелекту» ставить під сумнів ідею, яку протягом останніх місяців відстоювали кілька американських політиків і лідерів промисловості, що державна програма, спрямована на впровадження AGI, є найкращим способом конкурувати з Китаєм.

На думку Шмідта, Ванга та Хендрікса, США перебувають у деякому протистоянні AGI, що не відрізняється від взаємного гарантованого знищення . Подібно до того, як глобальні держави не прагнуть монополії на ядерну зброю — яка може спровокувати превентивний удар супротивника — Шмідт і його співавтори стверджують, що США повинні бути обережними, намагаючись домінувати над надпотужними системами ШІ.

Хоча порівняння систем ШІ з ядерною зброєю може здатися крайнім, світові лідери вже вважають ШІ головною військовою перевагою. У Пентагоні вже кажуть, що штучний інтелект допомагає пришвидшити ланцюжок вбивств військових .

Шмідт та ін. представити концепцію, яку вони називають Mutual Assured AI Malfunction (MAIM), згідно з якою уряди можуть завчасно вимикати загрозливі проекти штучного інтелекту, а не чекати, поки вороги використають AGI як зброю.

Шмідт, Ван і Хендрікс пропонують, щоб США перенесли свою увагу з «перемоги в гонці суперінтелекту» на розробку методів, які стримують інші країни від створення суперінтелектуального ШІ. Співавтори стверджують, що уряд повинен «розширити [свій] арсенал кібератак, щоб вивести з ладу загрозливі проекти штучного інтелекту», контрольовані іншими країнами, а також обмежити доступ зловмисників до передових мікросхем ШІ та моделей з відкритим кодом.

Співавтори виявляють дихотомію, яка має місце у світі політики ШІ. Є «думери», які вважають, що катастрофічні наслідки розвитку штучного інтелекту передбачувані, і виступають за те, щоб країни уповільнювали розвиток ШІ. З іншого боку, є «страуси», які вважають, що країни повинні прискорити розвиток штучного інтелекту, і, по суті, просто сподіваються, що все вийде.

У документі пропонується третій шлях: зважений підхід до розробки AGI, який надає пріоритет захисним стратегіям.

Ця стратегія особливо примітна, оскільки виходить від Шмідта, який раніше активно говорив про необхідність агресивної конкуренції США з Китаєм у розробці передових систем ШІ. Буквально кілька місяців тому Шмідт опублікував статтю, в якій говориться, що DeepSeek ознаменував переломний момент у американській гонці ШІ з Китаєм.

Адміністрація Трампа, здається, твердо налаштована на просування вперед у розробці ШІ в Америці. Однак, як зазначають співавтори, рішення Америки щодо AGI не існують у вакуумі.

Оскільки світ спостерігає, як Америка розсуває межі штучного інтелекту, Шмідт і його співавтори вважають, що, можливо, було б розумніше застосувати оборонний підхід.