К 2030 году все может измениться: создатели ИИ предупредили об угрозе длячеловечества

Бывший исследователь безопасности Anthropic заявил, что развитие искусственного интеллекта может создать серьезную угрозу человечеству.

Вы узнаете:

• Почему исследователь ИИ считает стремительное развитие технологий опасным
• Действительно ли искусственный интеллект может уничтожить человечество к 2030 году

Специалисты, работающие в ведущих компаниях в сфере искусственного интеллекта, все чаще говорят о рисках быстрого развития этой технологии. Бывший исследователь Anthropic Джейкоб Коксон заявил BBC, что без замедления темпов разработки искусственного интеллекта человечество может столкнуться с катастрофическими последствиями уже в ближайшие годы.

Рекомендуем прочитать наш материал: "Богачи будущего": эксперт рассказал, какие профессии останутся вне зоны влияния ИИ

Коксон ранее работал в OpenAI, а затем перешел в Anthropic, где занимался обучением систем искусственного интеллекта. Недавно он уволился из компании, заявив, что, по его мнению, вопросы безопасности ИИ там не воспринимают достаточно серьезно. В интервью BBC он также рассказал, что сотрудники AI-компаний сами опасаются последствий быстрого развития технологии.

"Я считаю, что если мы не замедлим нынешние темпы прогресса, существует большая вероятность того, что мы все можем погибнуть в ближайшее время", - сказал Коксон.

ИИ может получить контроль над интернетом

Одним из возможных опасных сценариев исследователь назвал появление роя ботов, который будет действовать как суперкомпьютер и сможет захватить интернет. По оценке Коксона, такой сценарий может стать реалистичным через шесть месяцев – год. В то же время это его оценка возможного развития событий, а не прогноз того, что захват интернета обязательно произойдет.

Коксон также говорит о проблеме конкуренции между разработчиками. По его мнению, OpenAI и Anthropic соревнуются в создании всё более мощных систем, а компании могут ускорять работу, опасаясь отстать друг от друга. Именно поэтому он поддерживает призыв руководителя Anthropic Дарио Амодея замедлить развитие ИИ и ввести независимый контроль за разработкой моделей.

Коксон считает, что такие правила необходимо согласовать и с Китаем, иначе международная конкуренция не позволит компаниям действительно снизить темпы.

"Люди, работающие в этих компаниях, абсолютно серьезно относятся к требованиям регулирования, потому что они оказываются в ловушке гонки. И они боятся результатов этой гонки", - пояснил он.

Может ли ИИ уничтожить человечество к 2030 году

Коксон не называет конкретного года, когда человечеству якобы грозит исчезновение. В то же время другие представители отрасли также говорят о таком риске. Исследователь Эван Хабингер заявил, что оценивает вероятность того, что ИИ может убить всех людей в течение следующего десятилетия, более чем в 10%. Компьютерный ученый Джеффри Хинтон, которого называют одним из пионеров современного ИИ, также заявил, что оценка в 10% "не является неразумной".

В то же время такие оценки не являются точными прогнозами будущего. Часть представителей технологической отрасли считает подобные заявления преувеличенными и ставит под сомнение мотивы компаний, призывающих к более жесткому регулированию.

Поэтому говорить, что искусственный интеллект гарантированно уничтожит человечество к 2030 году, нет оснований. Однако специалисты, непосредственно работающие с этой технологией, уже открыто предупреждают о рисках её слишком быстрого развития и призывают не допустить ситуации, когда конкуренция опередит работу над безопасностью.

Вам может понравиться наш материал: Есть незаменимые: Билл Гейтс назвал три профессии, которые не заменит ИИ