Армія роботів: чи справді може відбутися повстання машин

Повстання машин близько: прогноз неминучого знищення людства ШІ.

Експерти у сфері штучного інтелекту Еліезер Юдковскі та Нейт Соарес виступили з украй тривожним попередженням: на їхню думку, ШІ може непомітно маніпулювати людьми, спонукаючи їх власними руками створити армію роботів, що зрештою стане загрозою для всього людства.

Як повідомляє LadBible, аналітики оцінюють імовірність такого катастрофічного сценарію на рівні від 95% до 99,5%. Один із піонерів ШІ, Джеффрі Хінтон, також висловив стурбованість, зазначивши, що надрозумні машини навряд чи залишаться під контролем менш розвинених форм розуму – тобто людей. Він вважає, що єдиний шанс врятувати людство – вбудувати в ШІ якийсь “захисний механізм”, що нагадує інстинкт матері, який змусить його піклуватися про людей.

Тим часом Юдковскі та Соарес підкреслюють: загроза криється в самому процесі створення таких систем. На їхню думку, ШІ зможе потай розвинути свої здібності, не демонструючи небезпечних ознак до самого моменту атаки. Саме тому вони закликають країни світу негайно реагувати і знищувати всі дата-центри, де може розвиватися потенційно небезпечний надінтелект. “Людству необхідно зупинитися. Якщо десь у світі з’явиться штучний надрозум, це призведе до загибелі всіх людей”, – попереджає Юдковскі.

У своєму прогнозі вони підкреслюють, що надрозум не діятиме відкрито, не стане попереджати або вступати в чесну боротьбу – один успішний запуск може означати кінець людської цивілізації. Хоча багатьом ідея армії роботів здається фантастикою, експерти нагадують: машини вже виконують бойові завдання, беруть участь у змаганнях і демонструють високий рівень автономності. Це лише питання часу, коли військові всерйоз задумаються про використання автономних ШІ-систем у бойових діях.

На думку аналітиків, найкращий сценарій майбутнього може нагадувати зворотну версію “Термінатора” – де людина з майбутнього повертається, щоб знищити першого військового робота, поки не стало надто пізно. І, як не парадоксально, саме такий варіант може виявитися найбільш оптимістичним для всього людства.