Повстання машин призведе до кінця світу: чи справді ШІ зможе знищити людство

Протягом останніх кількох років з’являється дедалі більше теорій про те, що розвиток штучного інтелекту зрештою призведе до загибелі всього людства. Уявлення про апокаліпсис, спровокований штучним інтелектом, як правило, включають ядерні вибухи, смертоносні штучно створені віруси та армії роботів-вбивць у дусі "Термінатора", пише Daily Mail.

Однак тепер вчені застерігають, що реальний сценарій загибелі людства через штучний інтелект, найімовірніше, буде набагато менш очевидним. Провідні дослідники у сфері ШІ б’ють на сполох щодо зростаючої загрози так званого "ослаблення".

За словами старшого викладача робототехніки та штучного інтелекту в Університеті Шеффілд-Халлам, доктора Самуеле Вінаці, до загибелі людства, ймовірно, призведе поступова втрата навичок критичного мислення, планування та емоційних здібностей, оскільки люди по всьому світу дедалі частіше перекладають все більшу відповідальність на ШІ. Експерти вважають, що саме в цьому й криється справжня загроза.

Експерти вважають, що з часом ці, здавалося б, незначні рішення можуть призвести до того, що люди втратять здатність мислити без допомоги машин і втратять здатність розуміти, перевіряти та контролювати системи, від яких вони залежать. І, судячи з результатів дедалі більшої кількості досліджень, цей тривожний процес уже розпочався.

Протягом останніх кількох місяців у науковій спільноті, що займається розробкою штучного інтелекту, виникли серйозні побоювання щодо того, що стрімкий технологічний прогрес може становити загрозу для людства.

Наприклад, за словами 27-річного Джейкоба Коксона, який брав участь у навчанні новітніх версій ШІ в компанії Anthropic, ця технологія може досягти рівня суперінтелекту. І це стане кінцем людства. Більше того, він заявив, що розробники ШІ серйозно вважають, що до кінця десятиліття він може знищити всіх людей на планеті.

Керівник напряму досліджень із забезпечення безпеки та узгодженості ШІ в Anthropic Еван Хубінгер підтвердив, що погоджується із заявою Коксона: вони з колегами справді серйозно вважають, що ШІ може знищити все людство. Імовірність такого розвитку подій оцінюється в 10% у найближче десятиліття.

Втім, думки експертів щодо того, яку саме форму набуде ця загроза з боку ШІ, розділилися. Одні вважають, що зрештою ШІ може вийти з-під контролю й захопить управління критично важливою інфраструктурою — наприклад, енергомережами або атомними електростанціями.

Інші побоюються, що ШІ може ненавмисно спровокувати ядерну війну або створити небезпечні патогени, призначені для використання як зброя. Однак Вінанці вважає, що жоден із цих драматичних апокаліптичних сценаріїв не є реалістичним. Експерт вважає, що справжня небезпека, ймовірно, криється в тому, що ШІ стає дедалі кориснішим. Доктор Вінанці називає це явище "ослабленням здібностей" — поступовою втратою людських навичок.

Інші новини науки

• Колонізатори від Бога: на Землі є лише одна істота, здатна вижити на Марсі
• Несподіване відкриття: у мультфільмі "Король Лев" допущено серйозну помилку