ИИ может уничтожить человечество за 10 лет: разработчик сделал тревожное признание

Быстрое развитие искусственного интеллекта (ИИ) может поставить человечество на грань вымирания уже в течение следующего десятилетия. Такое тревожное предупреждение высказал профессор Йошу Бенджио, которого часто называют «крестным отцом искусственного интеллекта» и лауреатом престижной премии Тюринга.

Об этом пишет Сyfrowа .

"Пионер ИИ", профессор Монреальского университета, открыто заявил, что боится экзистенциальной угрозы этой технологии.

Угроза сверхумных машин

Беспокойство Бенджио основывается на экспериментальных результатах, моделирующих поведение сверхумных машин. Они могут иметь собственные опасные цели, такие как выживание и совершенствование.

«Если мы строим машины, которые намного умнее нас и имеют собственные цели выживания, это опасно», — отмечает ученый.

По его словам, симуляции показывают, что, столкнувшись с дилеммой (достижение цели или спасение человеческой жизни), ИИ может без колебаний выбрать первое. Эта мрачная перспектива становится все более реалистичной на фоне ускорения технологической гонки. В частности, запуск новых мощных моделей от OpenAI, Google Gemini, Anthropic и xAI Илона Маска.

Бенджио давно предупреждал, что человечество движется к созданию «конкурента, который умнее нас». Такой суперинтеллект сможет влиять на людей посредством убеждения, угроз или передовых манипуляций общественным мнением. Кроме того, ИИ может быть использован террористами для разработки биологического оружия или дестабилизации демократий.

Корпорации «не будут снимать ногу с газа»

Профессор считает, что корпоративное давление в сфере ИИ не позволяет компаниям приостановить разработки, даже несмотря на то, что «многие люди в этих компаниях озабочены». По его мнению, полагаться исключительно на саморегулирование корпораций ошибка.

Бенджио выступает за создание независимых внешних механизмов проверки методов безопасности разработчиков. Для поддержки этих усилий он основал некоммерческую организацию LawZero, работающую над Scientist AI – специализированной системой ИИ, которая должна стать защитой от неконтролируемых агентов. Эта система будет давать только ответы на основе вероятности, а не принимать окончательные решения.

Крестный отец искусственного интеллекта оценивает, что серьезные угрозы могут возникнуть уже через пять-десять лет. Он заключает:

«Даже если бы существовал только 1% риск его возникновения, с этим нельзя согласиться».

Ранее сообщалось, американский миллиардер Илон Маск объявил о запуске новой платформы Grokipedia, которая должна стать альтернативой Википедии и самой «точной базой знаний в мире».

Ракета FZ123 / © Business Insider Дженнифер Лопес / © Getty Images Истребители НАТО в небе над Балтией / Фото NATO Allied Air Command Су-27 / © Википедия