Угроза для человечества: мировые лидеры хотят запретить суперинтеллект

Сотни общественных деятелей подписали открытое письмо главным ИИ-корпорациям, пишет CNBC. Свыше 850 влиятельных фигур поддержали идею запрета сверх-ИИ. Список возглавили "крестные отцы" искусственного интеллекта — ученые Джеффри Хинтон и Йошуа Бенжио. К ним присоединились сооснователь Apple Стив Возняк, основатель Virgin Ричард Брэнсон, бывшие высокопоставленные чиновники США и даже члены британской королевской семьи — принц Гарри и его супруга Меган Маркл.

Почему они против?

В заявлении говорится, что перспектива появления сверхинтеллекта вызывает серьезные опасения: "начиная от экономической ненужности и бесправия человека, потери свобод и контроля до рисков для национальной безопасности и даже потенциального вымирания человечества". Подписанты требуют ввести мораторий на дальнейшие разработки до тех пор, пока не будет широкой общественной поддержки этой технологии и научного консенсуса о том, что такие системы можно полностью контролировать.

Реакция общества

Призыв к запрету подчеркивает глубокий раскол в технологическом сообществе. Интересно, что об опасностях суперинтеллекта ранее предупреждали и те, кто сегодня находится в авангарде его создания. Глава OpenAI Сэм Альтман еще в 2015 году называл сверхчеловеческий ИИ "вероятно, величайшей угрозой для человеческой цивилизации". А Илон Маск, чья компания xAI также стремится к созданию сильного ИИ, в этом году оценил вероятность "уничтожения" человечества в результате появления супер-ИИ в 20%.

Общественное мнение, похоже, тоже склоняется на сторону осторожности. Согласно недавнему опросу Future of Life Institute, лишь 5% взрослых американцев поддерживают "быстрое и нерегулируемое" развитие искусственного сверхразума. Многие, напротив, считают, что создание сверхинтеллекта нужно приостановить до тех пор, пока его безопасность не будет доказана. "Мы должны научно определить, как проектировать системы ИИ, которые в принципе не способны причинить вред людям", — заявил Йошуа Бенжио.

Раньше Фокус писал, действительно ли искусственный интеллект является искусственным. Сегодня термин "искусственный интеллект" встречается повсюду: от научных конференций до бытовых разговоров. Однако, по мнению эксперта по психологии и предпринимательству Константина Круглова, возникает интересный философский вопрос: если мы называем его интеллектом, то насколько он действительно "искусственный", а насколько является продолжением человеческого разума.