Европарламент принял закон об искусственном интеллекте: какие системы под запретом

Депутаты Европарламента одобрили закон об искусственном интеллекте, который должен гарантировать безопасность и соблюдение основных прав граждан, одновременно стимулируя инновации.

Документ приняли 523 голосами, еще 46 парламентариев высказались против, 49 — воздержались.

Системы на основе ИИ, подпадающие под запрет

Закон запрещает использование программ, нарушающих права людей. В частности речь идет о системах биометрической идентификации, создающих базы данных на основе изображений лиц из интернета и камер видеонаблюдения.

Также под запрет попадают системы распознавания лиц в режиме реального времени, распознавание эмоций на рабочих местах и в школах, системы “социального рейтинга” и профилирования, а также системы, манипулирующие поведением человека или использующие его уязвимости.

Использование систем биометрической идентификации силовиками также запрещено. Однако в определенных случаях разрешается, чтобы, например найти пропавшего человека или предотвратить террористическую атаку. Для этого правоохранителям нужно разрешение суда.

Обязательства для систем повышенного риска

Системы, используемые предприятиями критически важной инфраструктуры, учебными заведениями и профподготовки, центрами занятости, больницами, финучреждениями или правоохранительными структурами должны соблюдать ряд обязательств.

Им предстоит оценивать и уменьшать риски, вести журналы использования, быть прозрачными и точными, а также обеспечивать надзор со стороны людей. Граждане будут иметь право подавать жалобы на системы искусственного интеллекта и получать разъяснения относительно решений, принятых на основе систем ИИ с высокой степенью риска, которые влияют на их права.

Требования к прозрачности

Системы ИИ общего назначения должны в частности соответствовать законодательству ЕС об авторском праве и публиковать подробные сведения о контенте, который используется для обучения.

Изображения, созданные с помощью искусственного интеллекта, а также аудио- или видеоконтент должны иметь четкие маркеры и отметки, чтобы не вводить в заблуждение пользователей.

Мероприятия по поддержке инноваций

Предполагается создание на национальном уровне регуляторных “песочниц” с тестированием в реальных условиях. Они должны быть доступны для стартаперов, планирующих вывести на рынок систему на основе ИИ,

Новому закону еще предстоит пройти юридически-лингвистическую проверку и получить одобрение Рады. Документ вступит в силу через двадцать дней после публикации в официальном вестнике. Полноценно применять его можно будет через два года.