OpenAI призвала США возглавить разработку глобальных технических стандартов для ИИ — Reuters

OpenAI призвала США возглавить международные усилия по созданию глобальных технических стандартов для передовых систем искусственного интеллекта. Компания считает, что это поможет согласовать национальные и международные правила для технологий с рекурсивным самосовершенствованием, которые способны автономно улучшать собственные возможности. Об этом сообщило информационное агентство Reuters.

Искусственный интеллект должен стать одной из главных тем обсуждения на Генеральной Ассамблее ООН на этой неделе. Перед этим несколько руководителей ведущих компаний отрасли, в числе которых генеральный директор OpenAI Сэм Альтман, призвали к скоординированному замедлению развития всё более мощных систем. Они предупреждали, что технология в скором времени может обрести способность совершенствоваться без участия человека и выйти за пределы человеческого контроля.

В заявлении, опубликованном во время встречи мировых лидеров в ООН, OpenAI заявила о необходимости создать механизм, который позволит объединить национальные и международные стандарты для передового ИИ. Компания также выступила за внедрение общих методик оценки и протоколов уведомления об инцидентах. По её мнению, это должно улучшить координацию совместных действий между странами.

«Нынешний этап определит, будут ли Соединённые Штаты формировать глобальную систему искусственного интеллекта или будут наблюдать, как вокруг них укрепляется фрагментированная, неравномерная и конфликтная система. Это также определит, укрепляет ли передовой искусственный интеллект связи, которые уже имеются у Соединенных Штатов и их союзников; отсутствие лидерства может их ослабить», — отметили в OpenAI.

На фоне опасений относительно возможного вреда от искусственного интеллекта отрасль также обсуждает концепцию намеренного замедления развития технологии, которую называют pacing. В OpenAI подчеркивают, что это не означает соблюдения заранее определенной скорости развития. Речь идет о том, чтобы исследования в сфере согласования поведения ИИ с человеческими ценностями и практическое внедрение таких решений опережали рост возможностей систем.

Сэм Альтман в среду должен выступить перед Советом Безопасности ООН, в который входят 15 стран. Заседание будет посвящено искусственному интеллекту и международной безопасности. Его созвала Франция, которая в сентябре председательствует в Совете Безопасности. Председательствовать на заседании будет министр по делам Европы и иностранных дел Франции Жан-Ноэль Барро.

Совет Безопасности ООН впервые провел заседание, посвященное рискам искусственного интеллекта, в 2023 году. Тогда Китай предостерегал от неконтролируемого развития технологии, а США предупреждали об опасности использования ИИ для цензуры и репрессий.

Напомним, что президент США Дональд Трамп ранее выступил против замедления развития искусственного интеллекта, подчеркнув необходимость сохранить преимущество над Китаем. Он заявил, что критики ИИ преувеличивают часть рисков и описывают сценарии, которые, по его мнению, не произойдут.

Кроме того, пользователи Anthropic, OpenAI, SpaceXAI и Google подали в федеральный суд иск о возможной незаконной координации действий с целью замедления развития ИИ. Иск был подан 18 сентября в Окружной суд США Северного округа Калифорнии от имени четырёх платных пользователей ChatGPT, Claude, Grok и Gemini.