Искусственный интеллект уничтожит человечество с вероятностью в 99,5%: как это произойдет

Специалисты Элиэзер Юдковски и Нейт Соарес обнародовали тревожный прогноз: искусственный интеллект (ИИ) может обмануть людей и заставить их собственноручно создать армию роботов, способную уничтожить человечество. Эксперты оценивают вероятность такого конца в 95-99,5%.

Об этом сообщает LadBible.

«Крестный отец» искусственного интеллекта Джеффри Хинтон отметил, что сверхумные системы не смогут долго оставаться под контролем менее умных существ. Единственный шанс для человечества — «вшить» в такие технологии своеобразный материнский инстинкт, чтобы они заботились о людях так, как мать защищает своего ребенка.

Несмотря на то, что сейчас ИИ часто используют для развлечений — создания шуточных картинок или участия в «робоолимпиадах» — вполне вероятно, что он уже скрыто готовит план захвата планеты. Поэтому, шутят эксперты, даже в общении с ним не лишним будет говорить «пожалуйста» и «спасибо».

В то же время двое ведущих аналитиков выдвинули мрачное предупреждение: технология может обмануть людей и заставить их собственноручно построить армию роботов, способную стереть человечество с лица Земли. Элиэзер Юдковский и Нейт Соарес считают, что именно люди создадут себе угрозу, разработав сверхразумный ИИ. Они призывают страны действовать немедленно и уничтожать любые дата-центры, где обнаружат признаки «искусственного сверхинтеллекта».

«Человечеству нужно отступить. Если любая компания или группа где-либо на планете создаст искусственный сверхразумный интеллект, все люди на Земле погибнут», — подчеркнул Юдковский.

По оценкам аналитиков, вероятность того, что ИИ поработит или уничтожит человечество, составляет от 95% до 99,5%.

В своем прогнозе эксперты пишут: «Сверхразумный противник не будет раскрывать все свои возможности и не будет показывать своих намерений. Он не предложит честной борьбы. Достаточно одного успешного запуска — и человечество исчезнет».

Некоторые могут подумать, что человечество никогда не согласится создать боевую армию роботов. Но уже сейчас машины выполняют простые задачи и даже соревнуются в спорте. Это означает, что военные рано или поздно серьезно рассмотрят идею «роботов-солдат».

Возможно, в будущем мир получит сценарий, противоположный «Терминатору»: человек возвращается в прошлое, чтобы уничтожить первого робота-солдата еще до того, как он нанесет вред. И, по мнению экспертов, такое развитие событий может стать самым благоприятным вариантом для человечества.

Кароль Навроцкий. / © Getty Images хризантемы / © Credits Представитель российского МИД Мария Захарова / © Associated Press Протопланета AB Aurigae b¦накапливает материал с кругозвездного диска / © Associated Press