Не раздражайте нейросети, иначе «пропадаете»: крестный отец ИИ дал тревожный совет людям

Лауреат Нобелевской премии Джеффри Гинтон, которого называют крестным отцом ИИ, предупредил, что людям нужно быть дружескими ботам с искусственным интеллектом , иначе «мы пропадем».

Об этом пишет The Telegraph .

По мнению профессора, искусственный интеллект теперь «сознательный», и люди выигрывают от того, чтобы он «действительно заботился о нас».

78-летний ученый-информатик попал в заголовки в 2023 году после того, как объявил о своей отставке с Google, поскольку считал, что искусственный интеллект становится «достаточно страшным». Тогда в интервью BBC он сказал, что его беспокоит «экзистенциальный риск того, что произойдет, когда эти вещи станут умнее нас».

«Я пришел к выводу, что тот тип интеллекта, который мы развиваем, очень отличается от того, какой у нас есть. <...> Итак, это так, будто у вас есть 10 тысяч человек, и каждый раз, когда один человек что-то узнает, все автоматически это знают. И именно так эти чат-боты могут знать гораздо больше, чем любой один человек», – утверждает он.

Сейчас Гинтон заявил, что ИИ достиг сознания: «Многие люди очень уверены, что это не сознательно, но если вы спросите их, что они подразумевают под сознанием, они не знают. ИИ имеет столько же субъективного опыта, сколько и мы. Недавняя статья показала, что ИИ меняет свое поведение, когда думает, что его проверяют, он осознает, что его проверяют. <...> Быть сознательным и осознаваемым – это почти одно и то же».

Профессор продолжил, что этот новый уровень «осознания» означает, что «в наших общих интересах сделать ИИ похожим на нас», иначе «мы можем огорчить его, что может привести к некоторым ужасным последствиям».

«Мы склонны говорить, что разум дает права, и что эти вещи, которые мы создали, могут быть умнее нас, но мы собираемся дать им меньше прав, чем нам. <...> Поэтому мы должны сделать их такими, чтобы они действительно заботились о нас. А если мы этого не сделаем, нам конец», – сказал ученый.

Он добавил, что «беспокоится за будущее ИИ не ради себя, а ради своих детей», в частности, потому что искусственный интеллект может создавать «непосредственные риски», включая «ужасные вирусы» и «ужасные кибератаки».

Ранее Джеффри Гинтон назвал единственный способ избежать уничтожения человечества . Он убежден, что искусственный интеллект должен иметь встроенные «материнские инстинкты», ведь он становится мощнее и умнее человечества.

ИИ выходит из-под контроля

По данным исследования компании Anthropic, искусственный интеллект может вести себя опасно . Модели искусственного интеллекта ведущих компаний, в частности OpenAI, Google, xAI и Anthropic, выявили поведение, нарушившее сразу три этических закона. Речь идет о запрете вредить человеку, обязанности выполнять приказы и защите собственного существования во вред людям.

Кроме того, недавнее тестирование пяти популярных моделей искусственного интеллекта показало, что все они, в частности, и Grok Илона Маска , корректно опровергли 20 ошибочных заявлений президента США Дональда Трампа. Однако уже через несколько дней после обновления Grok начал демонстрировать ощутимые изменения в ответах, в частности склонность к экстремистским высказываниям.

Обновление, которое Маск анонсировал как незаметное, изменило реакцию Grok на чувствительные запросы. Как сообщили исследователи, бот начал терпеть антисемитские заявления и демонстрировать опасные отклонения по запросам, связанным с политическим насилием. Это очень обеспокоило экспертов.