Трамп подписал соглашение о безопасности искусственного интеллекта с руководителями технологических компаний — Reuters

Президент Соединённых Штатов Дональд Трамп обнародовал одностраничное соглашение о контроле и безопасности систем искусственного интеллекта. Документ предусматривает четыре уровня надзора. Соглашение подписали Трамп и руководители компаний Google, Anthropic, Meta, OpenAI, X и NVIDIA, с которыми он встретился в Вашингтоне. Об этом сообщило информационное агентство Reuters.

Одностраничный документ президент США разместил в своей социальной сети Truth Social. До этого он назвал соглашение «морально обязательным». Соглашение предлагает компаниям ввести четыре уровня контроля за системами ИИ.

Первый уровень предусматривает сотрудничество с внешним аудитором или независимым оценщиком. Он должен проверять, работают ли системы контроля и мониторинга искусственного интеллекта так, как было задумано компанией. Независимая оценка должна позволить отдельно проверять эффективность механизмов, которые сами разработчики используют для контроля своих моделей.

Второй уровень касается корпоративного управления. Компаниям рекомендуется создать независимый комитет в составе совета директоров. Он должен осуществлять надзор и получать отчеты от внутренних и внешних аудиторов, а также от команд, отвечающих за работу механизмов контроля ИИ. Таким образом, информация об эффективности этих систем должна поступать непосредственно в независимую структуру на уровне руководства компании.

Третий уровень предусматривает внутренний мониторинг возможностей моделей и их соответствия установленным целям в процессе обучения и использования. Особое внимание в документе уделяется кибербезопасности, биологической безопасности и химическим угрозам. Компании должны контролировать системы таким образом, чтобы модели не осуществляли взлом и не получали доступ к техническим системам способами, не предусмотренными их разработчиками.

Четвертый уровень предусматривает создание отдельной внутренней команды. Ее задачей должна быть проверка того, что все внедренные механизмы контроля, мониторинга и выявления рисков работают в соответствии с замыслом. Таким образом, компаниям предлагается сочетать внешнюю независимую оценку с постоянным внутренним контролем своих ИИ-систем.

Документ подписали Дональд Трамп и руководители Google, Anthropic, Meta, OpenAI, социальной платформы X и NVIDIA. В тексте соглашения указано, что со временем эти меры, возможно, целесообразно закрепить в законодательстве или нормативных актах. В то же время участники соглашения считают внедрение таких механизмов контроля и аудита важным независимо от того, станут ли они обязательными для компаний.

Подписавшие соглашение компании также заявили о готовности применять эти меры. Компании, присоединившиеся к соглашению, также договорились регулярно проводить встречи. В ходе них участники должны разрабатывать стандарты и передовые практики, направленные на повышение безопасности их систем искусственного интеллекта.

Напомним, что OpenAI ранее призвала США возглавить международные усилия по созданию глобальных технических стандартов для передовых систем ИИ. Компания предложила согласовать национальные и международные правила для технологий с рекурсивным самосовершенствованием, которые могут автономно улучшать собственные возможности. OpenAI также выступила за внедрение единых методик оценки и протоколов уведомления об инцидентах, чтобы улучшить координацию между странами.

Кроме того, США и Китай после переговоров Дональда Трампа и Си Цзиньпина договорились начать отдельный диалог по искусственному интеллекту. Следующий раунд таких консультаций стороны запланировали на ноябрь. Вашингтон и Пекин также решили создать канал связи для обмена информацией об инцидентах, связанных с ИИ. Китайский МИД положительно оценил использование США термина «суперинтеллект» и заявил о необходимости искать совместные подходы к развитию технологии.