Евросоюз согласовал правила регулирования ИИ с разрешением на распознавание лиц и штрафами от €7,5 млн – бизнес и правозащитники не в восторге

Евросоюз согласовал основные правила, регулирующие использование искусственного интеллекта, в том числе касательно использования ИИ правительствами для биометрической слежки, и разработал принципы регулирования систем ИИ, таких как ChatGPT.

Благодаря этому соглашению ЕС движется к тому, чтобы стать первым крупным мировым политическим сообществом, которое примет законы, регулирующие ИИ. Пятничное соглашение между странами ЕС и членами Европарламента было достигнуто после 15 часов переговоров, которые прошли после почти 24-часовых дебатов накануне. Стороны намерены согласовать детали будущего закона в ближайшие дни.

Соглашение требует, чтобы базовые модели, такие как ChatGPT и системы искусственного интеллекта общего назначения (GPAI), придерживались обязательств по прозрачности, прежде чем выйти на рынок. Требуется соответствующая техническая документация, соблюдение законодательства ЕС об авторском праве и подробная отчетность о контенте, используемом для обучения.

Базовые модели с системным риском должны будут проводить оценку модели, оценивать и смягчать системные риски, проводить конкурентное тестирование, отчитываться Европейской комиссии о серьезных инцидентах, обеспечивать кибербезопасность и отчитываться о собственной энергоэффективности.

• Правительства могут использовать биометрическое наблюдение в режиме реального времени в общественных местах только в случаях жертв определенных преступлений, предотвращения настоящих, имеющихся или предполагаемых угроз, таких как террористические атаки, а также при розыске людей, подозреваемых в самых серьезных преступлениях.
• Соглашение запрещает когнитивные манипуляции поведением, нецеленаправленное удаление изображений лица из интернета или записей с камер видеонаблюдения, системы социальной оценки и биометрической категоризации для определения политических, религиозных, философских убеждений, сексуальной ориентации и расы.
• Потребители получат право подавать жалобы и получать содержательные объяснения, а штрафы за нарушения будут колебаться от €7,5 млн. или 1,5% оборота до €35 млн. или 7% мирового оборота компании.

Бизнес-группа DigitalEurope раскритиковала эти правила как еще одно бремя для компаний в дополнение к другим последним законам.

«У нас есть сделка, но какой ценой? Мы полностью поддерживаем подход, основанный на оценке риска, основанного на использовании искусственного интеллекта, а не на самой технологии, но попытка в последнюю минуту регулировать основные модели перевернула это с ног на голову», — генеральный директор Сесилия Бонефельд-Даль.

Группа защиты прав конфиденциальности European Digital Rights была столь же критической.

«Трудно быть в восторге от закона, который впервые в ЕС принял меры для легализации публичного распознавания лиц в прямом эфире во всем блоке», — сказала старший советник по политике Элла Якубовская.

Ожидается, что законодательство вступит в силу в начале следующего года, после того как стороны его официально ратифицируют, и начнет действовать через два года. Закон ЕС будет существенно отличаться от сравнительно легкого подхода Соединенных Штатов и временных правил Китая.

Источник: Reuters