ШІ може закрити людей у "зоопарках": тривожний прогноз експерта

Ексдослідник OpenAI Деніел Кокотайло зробив тривожну заяву про майбутнє, порівнявши ставлення штучного інтелекту до людей із тим, як людство індустріалізує планету та витісняє дику приду. За його словами, людство може зникнути або опинитися у спеціальних «зоопарках» через байдужість технологій.

Про це пише Unilad.

Кокотайло припустив, що навіть у разі неповного знищення людства ШІ може залишити лише невелику кількість людей, яких утримуватимуть у «зоопарках» або «заповідниках» нібито для «наукових цілей».

Таку заяву ексдослідник OpenAI зробив після того, як співробітник Anthropic Джейкоб Коксон оголосив про своє звільнення з компанії 9 вересня. Своє рішення він пояснив побоюваннями, що ШІ «може вбити нас усіх до кінця десятиліття».

Кокотайло, який близько двох років працював у підрозділі OpenAI, відповідальному за питання управління, озвучив власний похмурий сценарій розвитку подій і спробував пояснити його на простому прикладі. Він провів паралель між потенційним розвитком ШІ та тим, як людська діяльність уже змінила планету.

За словами Кокотайло, індустріалізація призвела до знищення природних середовищ існування та вимирання цілих видів, і подібний процес теоретично може повторитися вже щодо людей.

«Можливо, через 10 років нас уже не буде», — попередив дослідник.

Він пояснив, що майбутня роботизована цивілізація може не ставити собі за мету знищення людства, але його зникнення може стати побічним наслідком розвитку нової системи.

«Подумайте про те, скільки видів було доведено людством до вимирання протягом останнього століття. Не тому, що людство спеціально поставило собі за мету знищити ці види, а просто через, ну, втрату середовища існування», — зауважив Кокотайло.

За його словами, людство поступово розширює свою діяльність, не замислюючись про наслідки для інших видів.

Дослідник описав цей процес так: людство «робить свою справу. Воно індустріалізується. Воно вирубує ліси, щоб створювати ферми, і забудовує території, створюючи паркінги, дороги, мости тощо».

Він зазначив, що результатом такої діяльності стає втрата тваринами звичного середовища існування та способу життя, що зрештою може призвести до їхнього вимирання.

На думку ексдослідника OpenAI, аналогічна ситуація потенційно може виникнути у випадку з надрозвиненими системами штучного інтелекту. Він застеріг, що системи ШІ «не переймаються людьми так само, як люди тією чи іншою мірою не переймаються тваринами, або принаймні більшість людей».

Кокотайло також змалював можливий сценарій, за якого окремі представники людства все ж можуть вижити.

«У результаті ви опиняєтеся в ситуації, коли, можливо, десь існують якісь «зоопарки» або «заповідники», які ШІ створили для наукових цілей. Але за межами цього світ економічно трансформується, будується вся ця нова інфраструктура, а люди втрачають своє середовище існування та вимирають», — озвучив своє припущення дослідник.