В ЄС планують заборонити використання ШІ для масового біометричного спостереження

Законопроєкт про штучний інтелект, який винесуть на пленарне голосування у Європарламенті у червні, передбачає поділ систем, заснованих на цій технології на чотири категорії ризику. Ця категоризація встановлює для постачальників і користувачів правила щодо поширення та застосування систем ШІ. Про це йдеться у пресрелізі Європарламенту.

Відповідно до законопроєкту, системи штучного інтелекту з неприйнятним рівнем ризику для безпеки людей будуть суворо заборонені, включно з системами, які використовують підсвідомі або цілеспрямовані маніпулятивні методи, використовують вразливі місця людей або використовуються для соціального оцінювання, зокрема класифікації людей на основі їхньої соціальної поведінки, соціально-економічного статусу, особистих характеристик.

Депутати Європарламенту до категорії ШІ з неприйнятним рівнем ризику віднесли:

• системи дистанційної біометричної ідентифікації «в режимі реального часу» у загальнодоступних місцях;
• «поштові» системи дистанційної біометричної ідентифікації, їх зможуть використовувати лише правоохоронці для переслідування небезпечних злочинів, маючи дозвіл суду на це;
• системи біометричної категоризації за статтю, расою, етнічною приналежністю, громадянством, релігією, політичними поглядами;
• системи розпізнавання емоцій;
• невибіркове збирання біометричних даних із соцмереж та записів із камер відеоспостереження для створення баз даних розпізнавання облич.

До категорії ШІ з високим рівнем ризику додали системи штучного інтелекту для впливу на виборців у політичних кампаніях і системи рекомендацій, які використовуються платформами соціальних мереж з понад 45 мільйонами користувачів. Також у цій категорії ШІ-системи, які можуть завдавати шкоду здоров’ю людей, безпеці, основним правам або навколишньому середовищу.

До систем з відносним рівнем ризику віднесли генеративні моделі штучного інтелекту накшталт чатбот ChatGPT. Власники таких сервісів будуть зобов'язані дотримуватися вимог щодо «прозорості» та законності: попереджати користувачів, що певний контент був створений штучним інтелектом та запобігати публікації даних, захищених авторським правом.

Виокремлена і категорію ШІ-систем із мінімальним рівнем ризику, йдеться про ігри, спам-фільтри. Вони працюватимуть без обмежень.

Щоб стимулювати інновації штучного інтелекту, депутати Європарламенту додали винятки до цих правил для дослідницької діяльності та компонентів штучного інтелекту, які надаються за ліцензіями з відкритим кодом.

Зазначимо, минулого тижня законопроєкт про ШІ був підтриманий двома ключовими комітетами Європарламенту: Комітетом з питань внутрішнього ринку та Комітетом з питань громадянських свобод.

Після голосування співдоповідач Драгош Тудораче з Румунії сказав: «Враховуючи глибокий трансформаційний вплив штучного інтелекту на наші суспільства та економіку, Закон про штучний інтелект є, ймовірно, найважливішим законодавчим актом у цьому мандаті. Це перший законодавчий акт такого роду в усьому світі, а це означає, що ЄС може стати лідером у створенні ШІ, орієнтованого на людину, надійного та безпечного. Ми працювали над підтримкою інновацій у сфері штучного інтелекту в Європі та наданням стартапам, малим і середнім підприємствам та промисловості простору для зростання та впровадження інновацій, водночас захищаючи основні права, зміцнюючи демократичний нагляд і забезпечуючи зрілу систему управління ШІ та правозастосування».

На загальне голосування законопроєкт надійде наступного місяця. Опісля очікується серія переговорів за участю країн-членів ЄС та контролюючих органів. Закон про ШІ має бути ухвалений до весни 2024 року.

Нагадаємо, нещодавно засновник штучного інтелекту Джеффрі Гінтон заявив, що загроза цієї технології може бути «більш нагальною», ніж зміна клімату. Водночас науковець не поділяє думки про те, що дослідження штучного інтелекту у світі варто призупинити.