Загроза повного знищення людства: вчений розкрив сумний прогноз

Головна проблема полягає в тому, що можливості штучного інтелекту розвиваються значно швидше, ніж технології контролю.

Ви дізнаєтеся:

• Існує ймовірність катастрофічного сценарію за участю надрозуму
• Існує приблизно 50%-ний шанс, що всі загинуть внаслідок дії ШІ

Джеффрі Ірвінг, дослідник безпеки штучного інтелекту та колишній головний науковий співробітник державного Інституту безпеки ШІ, оцінив ймовірність катастрофічного сценарію за участю надрозуму в 50%.

За його словами, головна проблема полягає в тому, що можливості ШІ розвиваються значно швидше, ніж технології та методи, що дозволяють контролювати їхню безпеку, пише Express.

"Я вважаю, що у нас є приблизно 50%-ний шанс, що всі загинуть внаслідок дії надінтелекту, головним чином через події, що відбудуться в найближчі кілька-десяток років. Я не очікую, що цей шанс знизиться нижче 10% або перевищить 90% до того, як ми або переживемо це, або ні. Нам доведеться діяти, незважаючи на невизначеність", - зазначив він.

Ірвінг пояснив, що 50% - це не результат точного прогнозу. Раніше він оцінював ризик у діапазоні від 10% до 90%, оскільки не вважав за можливе визначити ймовірність точніше.

"Що стосується 50%, то, незважаючи на багаторічні роздуми з цього приводу, я, як і раніше, вважаю, що існує величезна невизначеність моделі різного роду, і кілька років тому я дійшов висновку, що вона становить "10–90%, але я не відчуваю, що маю достатню впевненість у цьому діапазоні". Потім я зрозумів, що чесним рішенням було просто взяти середнє значення", - додав вчений.

Дослідник, який раніше працював у DeepMind, OpenAI та Google Brain, перейшов до державного інституту через побоювання, що питання безпеки не встигають за темпами розвитку ШІ.

"Мене турбує, що прогрес у сфері безпеки надто повільний порівняно з темпами розвитку штучного інтелекту".

При цьому Ірвінг вважає, що проблема полягає не стільки в намірах розробників, скільки в тиску конкуренції.

"Більшість співробітників і керівників лабораторій штучного інтелекту діють з найкращих спонукань, але ринкові сили постійно чинять тиск, змушуючи надавати пріоритет швидкості, а не обережності".

Сучасні системи ШІ вже вміють міркувати, програмувати, перекладати та виконувати складні багатоетапні завдання. У міру зростання їхніх можливостей питання про те, чи вдасться зберегти контроль над майбутнім надінтелектом, стає дедалі гострішим.

Як вчені оцінюють загрози для майбутнього людства

Білл Гейтс вважає, що зміна клімату здатна серйозно ускладнити життя людей, насамперед у найбільш вразливих і бідних державах. При цьому він не вважає кліматичну кризу загрозою, яка може призвести до зникнення людства.

Однак фахівці з глобальних ризиків дивляться на перспективи набагато тривожніше. На їхню думку, головні загрози цивілізації можуть виходити не від природних катастроф, а від самої людини. Особливе занепокоєння викликають стрімкий розвиток технологій та вдосконалення озброєння, наслідки застосування яких за певних обставин можуть виявитися неконтрольованими.