Нова ера прозорості: ЄС зобов'язав маркувати контент ШІ

Ці зміни є частиною ширшого Закону про штучний інтелект (AI Act), який набув чинності 1 серпня 2024 року. Нові вимоги впроваджуються поетапно, і обов'язкове маркування ШІ-контенту стало черговим кроком у цьому процесі. Мета цих правил – надати користувачам можливість розуміти, коли вони взаємодіють з технологіями чи переглядають згенеровані ними матеріали.

Під дію нових положень підпадають різноманітні форми контенту. Це стосується зображень, аудіо- та відеоматеріалів, які імітують реальних людей, об'єкти, місця або події, відомі як діпфейки. Також маркування вимагається для текстів, що публікуються для інформування громадськості на суспільно важливі теми без попередньої редакторської перевірки.

Окрім візуального та текстового контенту, правила поширюються на системи штучного інтелекту, що аналізують емоції людини або використовують біометричну категоризацію. Це підкреслює прагнення регуляторів охопити широкий спектр потенційних застосувань ШІ, які можуть впливати на сприйняття реальності або особисті дані.

Для забезпечення ідентифікації контенту, створеного ШІ, розроблено спеціальний набір іконок. Весь маркований контент повинен мати чітке візуальне та машинозчитуване позначення. Крім того, користувачів обов'язково попереджатимуть, якщо вони спілкуються не з людиною, а з чат-ботом, ШІ-агентом або аватаром, що сприятиме прозорості взаємодії.

Однак існують винятки з цих правил. Вони не поширюються на системи, що виконують суто допоміжні функції, такі як перевірка орфографії або базова обробка фотографій. Окремий, гнучкіший порядок застосовується до матеріалів художнього, творчого, сатиричного або вигаданого характеру, де допустимі інші способи інформування аудиторії, що не заважають сприйняттю самого твору.

Контроль за дотриманням вимог здійснюватимуть національні органи ринкового нагляду, Європейське управління зі штучного інтелекту (у частині систем під його наглядом), а також Європейський наглядовий орган із захисту даних, якщо розробниками чи користувачами є установи ЄС. За недотримання правил компаніям загрожують штрафи до 15 мільйонів євро або 3% річного глобального обороту, залежно від того, яка сума є більшою. Для установ, органів та агентств ЄС санкція становить до 750 тисяч євро, а для малих і середніх підприємств покарання застосовуватимуть з урахуванням пропорційності.

Європейська комісія оприлюднила настанови для компаній, де пояснюється, як демонструвати відповідність новим вимогам, зокрема через дотримання кодексу практики. Це забезпечує додаткову підтримку для адаптації до змін у законодавстві. Раніше, у Львові, вигадані ШІ-зображення вже призводили до курйозних наслідків, коли працівниця райадміністрації отримала догану за звіт, що містив згенероване фото.

Ці події підкреслюють зростаючу потребу в чіткому регулюванні штучного інтелекту. Запровадження обов'язкового маркування є важливим кроком до формування відповідального та прозорого цифрового середовища. Нові правила, як повідомила Європейську комісію, мають на меті не лише інформувати, а й захищати користувачів від потенційного маніпулювання чи дезінформації.

Вимоги до маркування контенту ШІ свідчать про те, що Євросоюз прагне залишатися на передовій у питанні етичного та безпечного використання новітніх технологій. Це відкриває шлях до більш довірчих відносин між користувачами та цифровим світом, де прозорість стає ключовим елементом відповідального розвитку штучного інтелекту.