Порнопомста і дипфейки. Ще один техногігант приєднався до важливої ініціативи, яку ігнорує Google

Більшість великих платформ і онлайн-сервісів об'єдналися, щоб допомогти жертвам порнопомсти чи поширення дипфейкових інтимних зображень видалити шкідливий контент з мережі. Останньою з долучених компаній стала Microsoft.

Корпорація Microsoft оголосила про співпрацю з організацією StopNCII, яка допомагає видаляти інтимні зображення, поширені без згоди людини, у тому числі створені за допомогою штучного інтелекту дипфейки. В рамках співпраці Microsoft видалятиме такі зображення зі свого пошукового сервісу Bing.

«Ми чули занепокоєння жертв, експертів та інших зацікавлених сторін щодо того, що повідомлення користувачів самі по собі можуть бути недостатньо ефективними для впливу або належним чином усунути ризик того, що зображення можна отримати через пошук. У зв’язку з цим сьогодні ми оголошуємо, що співпрацюємо зі StopNCII для тестування орієнтованого на жертв підходу до виявлення в Bing, нашій пошуковій системі», — оголосила Microsoft.

Кілька інших технологічних компаній погодилися співпрацювати зі StopNCII для видалення інтимних зображень, поширених без дозволу. Meta допомогла створити інструмент і використовує його на своїх платформах Facebook, Instagram і Threads. Серед інших сервісів, які приєдналися до проєкту — TikTok, Bumble, Reddit, Snap, Niantic, OnlyFans, PornHub, Playhouse і Redgifs. Цікаво, що у цьому списку немає Google. Компанія має власний набір інструментів для повідомлення про зображення, що не відповідають нормам, включно зі згенерованими штучним інтелектом дипфейками, але відмова від участі в спільній ініціативі ускладнює для жертв координацію зусиль з видалення зображень.

Процес видалення має такий вигляд: жертва має звернутися до StopNCII, організація робить цифровий відбиток (хеш) проблемного зображення або відео без необхідності завантажувати файл, хеш надсилається партнерам-учасникам, які можуть шукати збіги з оригіналом і видаляти їх зі своєї платформи, якщо вони порушують їхню політику щодо контенту.