Новая эра прозрачности: ЕС обязал маркировать контент ИИ

Эти изменения являются частью более широкого Закона об искусственном интеллекте (AI Act), который вступил в силу 1 августа 2024 года. Новые требования внедряются поэтапно, и обязательная маркировка ИИ-контента стала очередным шагом в этом процессе. Цель этих правил – предоставить пользователям возможность понимать, когда они взаимодействуют с технологиями или просматривают сгенерированные ими материалы.

Под действие новых положений подпадают разнообразные формы контента. Это касается изображений, аудио- и видеоматериалов, имитирующих реальных людей, объекты, места или события, известные как дипфейки. Также маркировка требуется для текстов, публикуемых для информирования общественности на общественно важные темы без предварительной редакторской проверки.

Помимо визуального и текстового контента, правила распространяются на системы искусственного интеллекта, анализирующие эмоции человека или использующие биометрическую категоризацию. Это подчеркивает стремление регуляторов охватить широкий спектр потенциальных применений ИИ, которые могут влиять на восприятие реальности или личные данные.

Для обеспечения идентификации контента, созданного ИИ, разработан специальный набор иконок. Весь маркированный контент должен иметь четкое визуальное и машиночитаемое обозначение. Кроме того, пользователей обязательно будут предупреждать, если они общаются не с человеком, а с чат-ботом, ИИ-агентом или аватаром, что будет способствовать прозрачности взаимодействия.

Однако существуют исключения из этих правил. Они не распространяются на системы, выполняющие сугубо вспомогательные функции, такие как проверка орфографии или базовая обработка фотографий. Отдельный, более гибкий порядок применяется к материалам художественного, творческого, сатирического или вымышленного характера, где допустимы другие способы информирования аудитории, не мешающие восприятию самого произведения.

Контроль за соблюдением требований будут осуществлять национальные органы рыночного надзора, Европейское управление по искусственному интеллекту (в части систем под его надзором), а также Европейский надзорный орган по защите данных, если разработчиками или пользователями являются учреждения ЕС. За несоблюдение правил компаниям грозят штрафы до 15 миллионов евро или 3% годового глобального оборота, в зависимости от того, какая сумма больше. Для учреждений, органов и агентств ЕС санкция составляет до 750 тысяч евро, а для малых и средних предприятий наказания будут применяться с учетом пропорциональности.

Европейская комиссия обнародовала руководство для компаний, где объясняется, как демонстрировать соответствие новым требованиям, в частности через соблюдение кодекса практики. Это обеспечивает дополнительную поддержку для адаптации к изменениям в законодательстве. Ранее во Львове вымышленные ИИ-изображения уже приводили к курьезным последствиям, когда сотрудница райадминистрации получила выговор за отчет, содержащий сгенерированное фото.

Эти события подчеркивают растущую потребность в четком регулировании искусственного интеллекта. Введение обязательной маркировки является важным шагом к формированию ответственной и прозрачной цифровой среды. Новые правила, как сообщила Европейская комиссия, имеют целью не только информировать, но и защищать пользователей от потенциального манипулирования или дезинформации.

Требования к маркировке контента ИИ свидетельствуют о том, что Евросоюз стремится оставаться на передовой в вопросе этического и безопасного использования новейших технологий. Это открывает путь к более доверительным отношениям между пользователями и цифровым миром, где прозрачность становится ключевым элементом ответственного развития искусственного интеллекта.