Сотні громадських діячів закликають заборонити «суперінтелект» на основі ШІ

Група відомих діячів, зокрема експерти зі штучного інтелекту й технологій, закликала припинити зусилля зі створення «суперінтелекту» — форми ШІ, яка перевершить людей практично у всіх розумових завданнях. Про це пише CNBS.

Понад 850 людей, серед яких засновник Virgin Group Річард Бренсон та співзасновник Apple Стів Возняк, підписали заяву, в якій закликали до паузи в розвитку суперінтелекту. 

Список підписантів очолили інформатики Йошуа Бенжіо та Джеффрі Хінтон, яких вважають «хрещеними батьками» сучасного штучного інтелекту. Заяву також підписали провідні дослідники ШІ, зокрема Стюарт Рассел з Каліфорнійського університету в Берклі.

Суперінтелект став популярним словом у сфері штучного інтелекту, оскільки компанії, від xAI Ілона Маска до OpenAI Сема Альтмана, конкурують одна з одною у випуску більш просунутих великих мовних моделей.

Однак підписанти нещодавньої заяви попереджають, що перспектива появи суперінтелекту «викликає занепокоєння — від можливої економічної непотрібності людини та втрати нею впливу, свободи, громадянських прав, гідності й контролю — до ризиків для національної безпеки та навіть потенційного зникнення людства».

Вони закликали заборонити розробки суперінтелекту, доки не буде сильної громадської підтримки цієї технології та наукового консенсусу щодо того, що її можна безпечно створювати та контролювати.

Окрім представників сфери ШІ і технологій заяву підтримали науковці, медійні діячі, релігійні лідери та двопартійна група колишніх політиків та чиновників США. 

Серед інших відомих підписантів заяви були члени британської королівської родини принц Гаррі та його дружина Меган Маркл, а також колишня президентка Ірландії Мері Робінсон. Станом на середу список продовжує зростати.

У «Заяві про суперінтелект» цитується нещодавнє опитування Future Life Institute, яке показало, що лише 5% дорослих американців підтримують «статус-кво швидкого, нерегульованого» розвитку суперінтелекту. 

Опитування також показало, що більшість вважає, що «надлюдський ШІ» не слід створювати, доки не буде доведено його безпеку або контрольованість, і хочуть надійного регулювання передового штучного інтелекту. 

Науковець з інформатики Йошуа Бенжіо сказав, що системи ШІ можуть перевершити більшість людей у ​​більшості розумових завдань протягом кількох років. Він додав, що хоча такі досягнення можуть допомогти розв’язати глобальні проблеми, вони також несуть значні ризики.

«Щоб безпечно просуватися до суперінтелекту, ми повинні науково визначити, як розробляти системи штучного інтелекту, які принципово не здатні завдати шкоди людям, чи то через неправильне налаштування, чи через зловмисне використання», — сказав він. 

Нагадаємо, в липні цього року генеральний директор Meta Platforms Марк Цукерберг оголосив про створення підрозділу Superintelligence Labs. Він обʼєднає стару дослідницьку групу Meta, яка займається штучним інтелектом Llama, і нову, що зосереджена на розробці наступного покоління моделей.

Фото: Techopedia