Угроза полного уничтожения человечества: ученый раскрыл мрачный прогноз

Главная проблема заключается в том, что возможности ИИ развиваются значительно быстрее, чем технологии контролироля.

Вы узнаете:

• Есть вероятность катастрофического сценария с участием сверхинтеллекта
• Есть примерно 50%-ный шанс, что все погибнут в результате действия ИИ

Джеффри Ирвинг, исследователь безопасности искусственного интеллекта и бывший главный научный сотрудник государственного Института безопасности ИИ, оценил вероятность катастрофического сценария с участием сверхинтеллекта в 50%.

По его словам, главная проблема заключается в том, что возможности ИИ развиваются значительно быстрее, чем технологии и методы, позволяющие контролировать их безопасность, пишет Express.

"Я думаю, что у нас есть примерно 50%-ный шанс, что все погибнут в результате действия сверхинтеллекта, в основном из-за действий в ближайшие несколько-десять лет. Я не ожидаю, что этот шанс снизится ниже 10% или превысит 90% до того, как мы либо переживем это, либо нет. Нам придется действовать, несмотря на неопределенность", - отметил он.

Ирвинг пояснил, что 50% - не результат точного прогноза. Ранее он оценивал риск в диапазоне от 10% до 90%, поскольку не считал возможным определить вероятность точнее.

"Что касается 50%, то, несмотря на многолетние размышления об этом, я по-прежнему считаю, что существует огромная неопределенность модели различного рода, и несколько лет назад я пришел к выводу, что она составляет "10-90%, но я не чувствую себя достаточно точно настроенным в этом диапазоне". Затем я понял, что честным решением было просто взять среднее значение", - добавил ученый.

Ранее работавший в DeepMind, OpenAI и Google Brain исследователь ушел в государственный институт из-за опасений, что вопросы безопасности не успевают за темпами развития ИИ.

"Меня беспокоит, что прогресс в области безопасности слишком медленный по сравнению с темпами развития искусственного интеллекта".

При этом Ирвинг считает, что проблема не столько в намерениях разработчиков, сколько в давлении конкуренции.

"Большинство сотрудников и руководителей лабораторий искусственного интеллекта действуют из лучших побуждений, но рыночные силы постоянно оказывают давление, заставляя отдавать приоритет скорости, а не осторожности".

Современные ИИ-системы уже умеют рассуждать, программировать, переводить и выполнять сложные многоэтапные задачи. По мере роста их возможностей вопрос о том, удастся ли сохранить контроль над будущим сверхинтеллектом, становится все более острым.

Как ученые оценивают угрозы для будущего человечества

Билл Гейтс полагает, что изменение климата способно серьезно осложнить жизнь людей, прежде всего в наиболее уязвимых и бедных государствах. При этом он не считает климатический кризис угрозой, которая может привести к исчезновению человечества.

Однако специалисты по глобальным рискам смотрят на перспективы гораздо тревожнее. По их мнению, главные угрозы цивилизации могут исходить не от природных катастроф, а от самого человека. Особое беспокойство вызывают стремительное развитие технологий и совершенствование вооружений, последствия применения которых в определенных обстоятельствах могут оказаться неконтролируемыми.