Експерт із безпеки ШІ вважає, що людство може зникнути протягом наступних 10 років

Нейт Соарес, колишній інженер Google і президент Machine Intelligence Research Institute, вважає, що людство може не пережити наступне десятиліття через розвиток штучного інтелекту. За його оцінкою, ймовірність того, що люди не протримаються ще 10 років, перевищує 50%. Через такі побоювання він уже близько десяти років не поповнює свій пенсійний рахунок 401(k), який відкрив під час роботи в Google.

Соарес пояснює свою позицію ризиком появи ШІ, який зможе діяти самостійно та розвиватися без належного контролю з боку людини. На його думку, у майбутньому штучний інтелект може дійти висновку, що людство заважає досягненню його цілей. Експерт вважає, що існує кілька причин, через які така система могла б «віддати перевагу» світу без людей.

Соарес наголошує, що найбільше його турбує не зникнення робочих місць через автоматизацію, а можливість загибелі всього людства. Він називає цей сценарій небезпечнішим за загрозу ядерної зброї. За його словами, ядерна зброя здатна знищити місто, але сама не може втекти, самостійно вдосконалюватися та ставати ще потужнішою.

Свої побоювання експерт озвучив у розмові з Ніколасом Томпсоном у подкасті The Most Interesting Thing in AI. Водночас наведена оцінка є особистою думкою Соареса, а не встановленим прогнозом чи науковим консенсусом щодо майбутнього людства.

Його заява знову привертає увагу до дискусії про безпеку штучного інтелекту. Поки одні фахівці зосереджуються на економічних наслідках автоматизації, інші попереджають про потенційні екзистенційні ризики. Наскільки реалістичним є найгірший сценарій, залишається предметом дискусій серед дослідників.