США и РФ исключили из соглашения пункт о контроле над ИИ-оружием

Американские и российские дипломаты объединили усилия для того, чтобы исключить из проекта договора ООН основные положения, которые устанавливают контроль человека над искусственным интеллектом при применении смертоносного оружия. Об этом пишет The Washington Post со ссылкой на источники.

По данным издания, в начале сентября сотни дипломатов собрались в Женеве для разработки первого глобального соглашения по использованию смертоносного автономного оружия. В последний день переговоров представители США и России на закрытом заседании в течение 15 часов перерабатывали документ. Обе страны привлекли примерно по 10 юристов, что значительно превысило дипломатическое присутствие других делегаций.

"По словам источников, американские и российские дипломаты убрали формулировку, которая требовала от автономной системы работать "предсказуемым" и "надежным" способом, и исключили пункт, обязывавший учитывать этические соображения при использовании ИИ-оружия. Кроме того, представители США и России убрали положение, которое требовало, чтобы люди проверяли определённые ИИ военные цели перед нанесением удара.

Изменения в это соглашение, детали которого ранее не разглашались, демонстрируют, как Соединённые Штаты и Россия пытались ослабить глобальные правила регулирования смертоносного оружия с искусственным интеллектом".

Один из собеседников издания назвал процесс редактирования соглашения "смертью от тысячи мелких порезов".

Отмечается, что бурное обсуждение в Женеве происходило на фоне того, как Пентагон стремится быстро внедрить ИИ в свою стратегию ведения боевых действий, пока продолжаются дебаты относительно экзистенциальных рисков, связанных с развитым искусственным интеллектом.

По данным издания, американские военные уже использовали ИИ компании Anthropic для обнаружения и нанесения ударов по почти 1000 целям в первые 24 часа конфликта с Ираном.

По словам заместителя директора по вопросам вооружений Human Rights Watch Верити Койл, ослабление правил будет означать, что "машины смогут принимать решения о жизни и смерти без контроля со стороны человека". Она подчеркнула, что это приведёт к увеличению вреда для гражданского населения и ускорит переход к "более рискованной, автоматизированной войне".

Напомним, руководители ведущих мировых компаний в сфере искусственного интеллекта 23 сентября предупредили Совет Безопасности ООН о рисках, которые искусственный интеллект может представлять для человечества.

Люди боятся ИИ: большинство видит риск для существования человечества

---