Трамп и техногиганты: четырехуровневый план контроля искусственного интеллекта

На одном из важных собраний в Вашингтоне экс-президент США Дональд Трамп встретился с руководителями ведущих технологических гигантов, чтобы обсудить будущее искусственного интеллекта. Эта встреча стала катализатором для разработки документа, целью которого было установить принципы безопасности и контроля над быстро меняющейся технологией.

Среди подписантов были ключевые фигуры из Google, Anthropic, Meta, OpenAI, X и NVIDIA – компаний, находящихся на передовой разработки ИИ. Их мотивацией было не только ответственное отношение к инновациям, но и понимание потенциальных рисков, которые может нести неконтролируемое развитие искусственного интеллекта. Дональд Трамп назвал эту договоренность «морально обязывающей», подчеркивая ее значимость для будущего.

Результатом встречи стало одностраничное соглашение, которое устанавливает четыре уровня надзора за системами ИИ. Этот документ, как сообщило информационное агентство Reuters, заложил основы для будущих стандартов, которые, возможно, будут закреплены на законодательном уровне.

Первый уровень предполагает обязательное привлечение внешних аудиторов или независимых оценщиков для проверки эффективности механизмов мониторинга компаний. Второй уровень рекомендует создание независимого комитета в совете директоров, который будет получать отчеты от аудиторов и профильных команд, обеспечивая надзор на корпоративном уровне. Третий уровень сосредоточен на постоянном внутреннем мониторинге моделей во время обучения и использования, с особым вниманием к кибербезопасности, а также биологическим и химическим угрозам. Наконец, четвертый уровень требует формирования отдельной внутренней команды для проверки надлежащей работы всех систем контроля и выявления рисков.

Компании, которые подписали эту договоренность, выразили готовность применять эти меры, осознавая важность такого контроля независимо от его юридического статуса. Они также обязались регулярно встречаться для разработки общих стандартов безопасности и лучших практик.

Сейчас это соглашение является важным шагом к формированию ответственного подхода к развитию искусственного интеллекта. Участники рынка понимают, что сотрудничество и постоянный диалог являются ключевыми для того, чтобы преимущества ИИ не сопровождались неконтролируемыми рисками.

Эта инициатива происходит на фоне глобальных дискуссий относительно регулирования искусственного интеллекта. Ранее OpenAI призвала США возглавить международные усилия по созданию единых технических стандартов для передовых систем ИИ, особенно в отношении технологий с рекурсивным самосовершенствованием. Компания предлагала согласовать национальные и международные правила, а также совместные методики измерения и протоколы сообщения об инцидентах.

Кроме того, США и Китай договорились начать отдельный диалог по искусственному интеллекту. Следующий раунд консультаций запланирован на ноябрь, а также предполагается создание канала связи для обмена информацией об инцидентах, связанных с ИИ. Китайское МИД положительно оценило использование США термина «суперинтеллект», что свидетельствует об общем видении необходимости поиска унифицированных подходов к развитию этой технологии.

Это соглашение символизирует начало новой эры в отношениях между технологическими инновациями и их контролем, подчеркивая общую ответственность за будущее. Оно прокладывает путь к тому, чтобы искусственный интеллект служил человечеству безопасно и эффективно, минимизируя потенциальные угрозы.