Європарламент ухвалив закон про штучний інтелект: які системи під забороною

Депутати Європарламенту схвалили закон про штучний інтелект, що має гарантувати безпеку та дотримання основних прав громадян, одночасно стимулюючи інновації.

Документ узгодили 523 голосами, ще 46 парламентарів висловилися проти, 49 – утрималися.

Системи на основі ШІ, що підпадають під заборону

Закон забороняє використання програм, що порушує права людей. Зокрема йдеться про системи біометричної ідентифікації, що створюють бази даних на основі зображень облич з інтернету та камер відеоспостереження.

Також під заборону потрапляють системи розпізнавання облич у режимі реального часу, розпізнавання емоцій на робочих місцях і в школах, системи “соціального рейтингу” та профілювання, а також системи, що маніпулюють поведінкою людини чи використовують її вразливості.

Використання систем біометричної ідентифікації силовиками також заборонене. Проте в певних випадках дозволяється, щоби, наприклад знайти зниклу особу чи запобігти терористичній атаці. Для цього правоохоронцям потрібен дозвіл суду.

Зобов’язання для систем підвищеного ризику

Системи, що використовуються підприємствами критично важливої інфраструктури, закладами освіти та профпідготовки, центрами зайнятості, лікарнями, фінустановами чи правоохоронними структурами мають дотримуватися низки зобовʼязань.

Їм належить оцінювати та зменшувати ризики, вести журнали використання, бути прозорими та точними, а також забезпечувати нагляд з боку людей. Громадяни матимуть право подавати скарги на системи штучного інтелекту та отримувати роз’яснення щодо рішень, ухвалених на основі систем ШІ з високим ступенем ризику, які впливають на їхні права.

Вимоги до прозорості

Системи ШІ загального призначення мають зокрема відповідати законодавству ЄС про авторське право та публікувати докладні зведення про контент, який використовується для навчання.

Зображення створені за допомогою штучного інтелекту, а також аудіо- чи відеоконтент повинні мати чіткі маркери та позначки, щоби не вводити в оману користувачів.

Заходи з підтримки інновацій

Передбачається створення на національному рівні регуляторних “пісочниць” з тестуванням в реальних умовах. Вони мають бути доступними для стартаперів, що планують вивести на ринок систему на основі ШІ,

Новому закону ще належить пройти юридично-лінгвістичну перевірку та отримати схвалення Ради. Документ набере чинності через двадцять днів після публікації в офіційному віснику. Повноцінно застосовувати його можна буде за два роки.