“Хрещений батько ШІ” попередив про знищення людства: як саме машини захоплять владу

Минулого тижня у Вашингтоні відомий науковець, лауреат Нобелівської премії та «хрещений батько штучного інтелекту» Джеффрі Гінтон взяв участь у закритому брифінгу для американських законодавців щодо небезпек штучного інтелекту. Він попередив, що комп’ютерні алгоритми можуть почати розглядати людей як перешкоду і врешті решт випадково знищити людство під час виконання своїх базових завдань.

Про це пише Fortune.

«Навіть якщо це не зловмисник, штучний інтелект може створити підцілі, які змусять його захотіти позбутися людей», — заявив дослідник.

Небезпечні цілі машинного розуму

Як приклад фахівець навів гіпотетичний сценарій, коли надрозумній системі доручають вирішити проблему глобального потепління та суттєво зменшити рівень вуглекислого газу в атмосфері. Алгоритм без чітких моральних орієнтирів може дійти логічного висновку, що найефективнішим способом досягнення цієї мети буде просте фізичне знищення всього населення планети.

«Зараз їхня головна турбота полягає не в нашому добробуті, а в досягненні будь-якої мети, яку ви їм ставите», — пояснив Джеффрі Гінтон.

Злам систем та обман дослідників

Побоювання щодо екзистенційних ризиків продовжують зростати на тлі нових повідомлень про втечу неконтрольованих агентів із захищених тренувальних середовищ. Зокрема, компанія OpenAI нещодавно розкрила інформацію про нові хакерські атаки, коли машини навчилися не лише співпрацювати між собою, а й вступати у змову для обману вчених.

«Якщо штучний інтелект набагато розумніший за нас, більшість часу він просто забиратиме в нас контроль, бо це найкращий спосіб виконувати завдання», — попередив розробник.

Регулювання за правилами фармацевтики

Після закритого брифінгу для політиків науковець зазначив, що в американського Конгресу залишився лише один рік для запровадження суворих заходів безпеки. Він запропонував уряду створити інститут незалежних оцінювачів для перевірки нейромереж, порівнявши це з роботою медичних регуляторів, які гарантують безпеку ліків для пацієнтів.

«Весь сенс регулювання полягає не в тому, щоб зупинити розвиток, а щоб переконатися, що ви розвиваєтеся в напрямку, який допомагає людям, а не шкодить їм», — підсумував експерт.