Лаборатории искусственного интеллекта вышли из-под контроля: обращение более тысячи исследователей подписали Маск и Возняк

29 марта, 20:03, 2023

Подписанты обращения считают, что продукты с искусственным интеллектом "могут представлять серьезную угрозу обществу и человечеству".

Генеральный директор SpaceX, Tesla и Twitter Илон Маск, соучредитель Apple Стив Возняк и еще 1100 профессоров, инженеров и исследователей призывают приостановить эксперименты с искусственным интеллектом. Они боятся, что это может угрожать человечеству.

Соответствующее обращение опубликовано на сайте некоммерческой организации Future of Life Institute.

Авторы этого обращения считают, что обучение и испытание более мощных систем искусственного интеллекта, чем GPT-4 от компании OpenAI, должны быть прекращены по меньшей мере на полгода, пока не появятся общие протоколы безопасности. Если они не согласятся добровольно, в ситуацию должно вмешаться государство, введя мораторий.

Подписанты подчеркивают, что за последние месяцы лаборатории искусственного интеллекта вышли из-под контроля за разработкой и развертыванием все более мощных цифровых умов, "которых никто, даже их создатели, не может понять, прогнозировать или надежно контролировать", а последние системы искусственного интеллекта начинают конкурировать с человеком. По их мнению, продукты с искусственным интеллектом "могут представлять серьезную угрозу обществу и человечеству".

“Нам следует спросить себя: должны ли мы позволить машинам наполнить наши информационные каналы пропагандой и ложью? Должны ли мы автоматизировать всю работу, включая приносящую удовольствие? Должны ли мы развивать бесчеловечные умы, которые в итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?” — говорится в письме.

Как сообщает Reuters, исполнительный директор OpenAI Сэм Альтман не подписывал это письмо.

Напомним, главный исполнительный директор компании Meta Марк Цукерберг анонсировал громкую новинку – искусственный интеллект LLaMA. Он убежден, что его разработка станет конкурентом известному чат-боту ChatGPT.

Читайте также: