Вчений пояснив, чи може штучний інтелект знищити людство

Можливо людство підписало собі смертний вирок. Стюарт Рассел з Каліфорнійського університету розповів про небезпеку штучного інтелекту. Чи захоплять машини світ і, чи повторить планета долю “Матриці”?

Про це повідомляє The Times.

Штучний інтелект (ШІ) – це справжній прорив в IT-технологіях. З його допомогою можна в десятки разів швидше робити складні дії: створювати мікрочипи, вирішувати завдання з різних наук. Однак чи добре це насправді?

Стюарт Рассел каже, що головна небезпека ШІ полягає в тому, що людина не може контролювати його повністю.

Вчений з США схвильований не на жарт. Своїми переживаннями він вже поділився. Стюарта хвилює той факт, що нейромережа ChatGPT в будь-який момент може інтегруватися в надрозумну машину. Новий об’єкт може виявитися небезпечним для людства, адже люди не зможуть його контролювати.

Наприклад, люди звернуться до ШІ, щоб допомогти розв’язати проблему глобального потепління. А нейромережа може “подумати”, що для цього треба винищити людей.

Стюарт Рассел висловив розчарування політиками, які не виступають за суворе регулювання штучного інтелекту, попри ті небезпеки, які ця технологія може представляти в майбутньому. Він приєднався до Ілона Маска та Стіва Возняка, щоб висловити свою думку у відкритому листі про те, щоб зупинити розвиток ШІ та спочатку навчитися контролювати його.

Стюарт Рассел є професором інформатики в Каліфорнійському університеті в Берклі та членом коледжу Вадхем, Оксфорд. Він брав участь у роботі ООН зі створення нової системи контролю за виконанням договору про заборону ядерних випробувань і є співавтором широко відомого університетського підручника зі штучного інтелекту.

Багато європейських політиків виступають за проведення екстреного глобального саміту у зв’язку зі зростанням розвитку ШІ, в той час, як Китай вже забороняє великі мовні моделі. Білий дім скликав екстрену нараду для всіх керівників технологічної галузі. Стюарт Рассел ставить риторичне запитання, “Якими будуть наслідки, якщо ми зіткнемося з інопланетною цивілізацією?”.