«Всі помруть». Дослідники попереджають, що штучний інтелект загрожує людству

Група дослідників зі штучного інтелекту опублікувала книгу «Якщо хтось це створить, усі помруть», у якій попереджає про загрозу для виживання людства. На думку експертів, штучний суперінтелект (ШСІ) може з'явитися вже за 2-5 років і стати неконтрольованим. Про це повідомляє «Главком» із посиланням на Mirror.

Автори, серед яких засновник Інституту досліджень машинного інтелекту Еліезер Юдковський та президент організації Нейт Соарес, стверджують, що ШСІ зможе самостійно приймати рішення, розробляти стратегії та вдосконалювати власні можливості. Вони наголошують, що він не буде вести «чесний бій», а використовуватиме складні маніпуляції та залишатиметься непомітним до моменту, коли завдасть рішучого удару.

Експерти попереджають, що лабораторії вже створюють системи, можливості яких вони не до кінця розуміють. Дослідження показали, що навіть базові ШІ-моделі, такі як ChatGPT, можна обійти за допомогою простих підказок, змусивши їх надавати допомогу, зокрема для військових цілей. 

У зв’язку з цим дослідники закликають негайно призупинити розробки ШСІ. Вони стверджують, що часу залишається дуже мало, а потенціал штучного суперінтелекту може стати неконтрольованим, якщо не вжити заходів.

До слова, компанія OpenAI запускає спеціальну, адаптовану версію ChatGPT для користувачів, яким ще не виповнилося 18 років. Якщо система визначить, що користувач неповнолітній, його автоматично перенаправлять на цю версію.

Раніше стало відомо, що OpenAI відновлює дослідження у сфері робототехніки і формує команду спеціалістів для створення гуманоїдних роботів, здатних діяти у реальному світі.