Хрещений батько ШІ дав тривожний прогноз про майбутнє людства: це гірше за "ядерку"

Нобелівський лауреат і піонер у галузі штучного інтелекту Джеффрі Хінтон зробив тривожну заяву про майбутнє ШІ. За його словами, люди недооцінюють ризики, які несе швидкий розвиток цієї технології. Він порівняв ШІ з тигреням, яке може вирости та знищити свого господаря.

Яке важливе попередження для людства зробив хрещений батько ШІ, розповідає РБК-Україна (проєкт Styler) з посиланням на CBS.

Джеффрі Хінтон - піонер ШІ з Нобелівською премією

Минулого року 77-річний Джеффрі Хінтон прокинувся серед ночі з неочікуваною новиною: йому присуджено Нобелівську премію з фізики. Не за відкриття в астрофізиці чи квантовій механіці, а за фундаментальну роботу, яка лягла в основу сучасних великих мовних моделей - технологій, що живлять ChatGPT, Gemini та інші ШІ-системи.

Хінтон не приховує, що спочатку він мріяв зрозуміти, як працює людський мозок. Замість цього він допоміг створити щось, що може почати діяти самостійно.

"Я мріяв отримати нагороду за те, що зрозумів, як працює мозок. Але я так і не зрозумів, як він працює - і все одно отримав премію", - з іронією зазначив він.

"Люди ще не зрозуміли, що гряде"

Хінтон не відкидає користі від ШІ - він вважає, що технологія здатна змінити медицину, освіту й навіть допомогти в боротьбі зі змінами клімату. Але водночас він відверто стурбований неконтрольованим розвитком.

Свої побоювання Хінтон озвучив у інтерв'ю. За його словами, ймовірність того, що ШІ візьме контроль над людством, становить 10-20%. І це - не сценарій голлівудського бойовика, а реальний ризик, про який він говорить із серйозністю.

"Ми, як людина, яка виростила милого тигреня. Але чи можемо ми бути впевнені, що коли він виросте, не спробує нас убити?" - каже науковець.

Він вважає, що ШІ матиме трансформаційний вплив на світ, але при цьому ми навіть не уявляємо, у що ця технологія може перетворитися.

Його застереження перегукуються з побоюваннями й інших, таких, як Сундар Пічаї, Ілон Маск і Сем Альтман. Проте Хінтон критикує ці компанії за лицемірство - мовляв, вони дбають не про безпеку, а про прибутки.

ШІ-компанії не хочуть контролю. І в цьому найбільша загроза

Хінтон особливо розчарований Google, яка, за його словами, зрадила власні принципи щодо етики й участі у військових проєктах ШІ.

"Якщо подивитися на те, що зараз роблять великі компанії - а вони лобіюють зменшення регулювання ШІ. Його й так вже майже немає, але вони хочуть ще менше", - каже Хінтон.

Він наголошує: великі компанії лобіюють зменшення й так слабкого регулювання.

"Компанії повинні віддавати третину обчислювальних ресурсів на безпеку. А виділяють - у кращому разі - крихти" - каже Хінтон.

У минулому, попереджаючи про свою оцінку ймовірності того, що штучний інтелект захопить і витіснить своїх творців, він сказав, що людству "ніколи раніше не доводилося мати справу з речами", розумнішими за нас самих.

"Скільки прикладів ви знаєте, коли розумніша річ контролюється менш розумною? Таких прикладів мало", - сказав науковець і додав, що темпи розвитку ШІ йдуть набагато швидше, ніж він очікував.

CBS запитала у провідних лабораторій ШІ, скільки ресурсів вони реально витрачають на безпеку. Жодна не дала чіткої відповіді. Усі заявили, що безпека важлива, але відкрито критикували будь-які спроби серйозного законодавчого втручання.