Дослідник ШІ перестав відкладати гроші на пенсію через ризик апокаліпсису

Президент Інституту досліджень машинного інтелекту (MIRI) Нейт Соарес оцінює ймовірність вимирання людства через штучний інтелект протягом найближчого десятиліття більш ніж у 50% і вже десять років не робить внесків на пенсійний рахунок. Про це повідомляє «Главком» із посиланням на Business Insider.

Чому науковець не робить внесків

Соарес очолює MIRI, неприбуткову організацію з Берклі, яка вивчає ризики розвитку ШІ. Про своє рішення він розповів в інтерв'ю генеральному директору The Atlantic Ніколасу Томпсону для серії «The Most Interesting Thing in AI». За його словами, він наразі не відкладає гроші на пенсію. Рахунок 401(k), відкритий під час роботи в Google, він давно не поповнює.

Формат 401(k) – це поширений у США спосіб пенсійних заощаджень: працівник регулярно спрямовує на нього частину заробітку, а роботодавець іноді доповнює внески. Дослідник не повідомляв, що закрив рахунок чи витратив накопичене: йдеться лише про припинення нових внесків.

Рішення пов'язане з переконанням, що людство ризикує втратити контроль над технологією, яку створює сам. Його оцінку – понад 50% ймовірності вимирання за наступне десятиліття – варто сприймати як особисту думку, а не як науково доведений прогноз чи позицію всієї спільноти.

Як ШІ може вийти з-під контролю

Головне побоювання науковця – поява систем, значно потужніших за людський розум. За його сценарієм, така система здатна сформувати цілі, що суперечать інтересам людей, і перебудувати планету під власні завдання, зробивши її непридатною для життя. Про подібні ризики Соарес попереджав і раніше: він співавтор книги «Якщо хтось це створить, усі помруть», про яку писав «Главком».

Чому Маск бачить майбутнє інакше

Ілон Маск припускає, що стрибок продуктивності завдяки ШІ може створити епоху достатку з «універсальним високим доходом», дешевими товарами й послугами та кращою медициною й освітою. У такому світі традиційні пенсійні заощадження втрачають значення. Соарес бачить протилежне: для нього надпотужний ШІ – передусім загроза існуванню, а не шлях до загального добробуту.

Що пропонує Соарес

Він закликає уряди зупинити навчання систем загального призначення й зосередитися на технологіях для конкретних завдань, наприклад дослідженнях раку чи безпечніших безпілотних автомобілях. За його словами, розв'язання проблеми – не створювати те, що може вбити всіх. Катастрофу дослідник не вважає неминучою. «Я роблю все, що можу, аби цього не сталося», – наголосив він.