Meta, Snapchat та TikTok об’єднуються для боротьби з контентом, пов'язаним із самопошкодженнями

Meta, Snapchat та TikTok запускають нову ініціативу під назвою Thrive, спрямовану на виявлення та видалення контенту, пов’язаного із самогубством та самопошкодженнями, щоб зменшити вплив на користувачів, які перебувають у зоні ризику.

Про це пише Social Media Today.

Цією ініціативою керуватиме Коаліція з питань психічного здоров’я, а три платформи будуть обмінюватися даними про небезпечний контент, що дозволить вжити ширших заходів для боротьби з ним на різних платформах.

«Через Thrive компанії-учасники зможуть обмінюватися сигналами щодо контенту, який порушує правила щодо самогубств або самопошкоджень, щоб інші компанії могли дослідити та вжити заходів, якщо подібний контент поширюється на їхніх платформах. Meta забезпечує технічну інфраструктуру, яка підтримує Thrive — ту саму технологію, яку ми надаємо для програми Lantern Технічної Коаліції, що дозволяє безпечно обмінюватися сигналами», — пояснили в Meta.

Варто зазначити, що всі три додатки дозволяють користувачам обговорювати питання психічного здоров'я та ділитися своїми думками з цього приводу. Однак існують чіткі правила щодо поширення графічних зображень або матеріалів, які можуть заохочувати самогубство чи самопошкодження, на чому й зосереджена програма Thrive.

У межах проєкту три компанії будуть обмінюватися даними про такий контент, що дозволить забезпечити ширше та швидше виконання правил. Ці дані, у вигляді ідентифікованих «хештегів», допоможуть виявляти подібний контент на кожному з додатків та вживати необхідних заходів.

Meta зазначає, що дані, якими обмінюватимуться компанії, будуть стосуватися лише контенту та не міститимуть жодної ідентифікаційної інформації про акаунти чи користувачів. Це дозволить швидше видаляти подібний матеріал, а також допоможе розвивати відповідні бази даних і програми з дотримання правил на кожній платформі.

Основні соціальні мережі також співпрацюють у сфері операцій з впливу, обмінюючись подібною інформацією для виявлення та видалення скоординованих ініціатив, спрямованих на обман та введення користувачів в оману.

Такого роду співпраця між платформами може значно покращити зусилля з реагування, і приємно бачити, що ці три компанії розширюють свої відповідні зусилля, щоб краще захистити користувачів.

Підкреслюється, що зростання використання соціальних мереж пов'язане з підвищенням рівня депресії та самопошкоджень серед молоді. А з огляду на те, що самогубство зараз є другою найпоширенішою причиною смерті серед молоді в США, важливо, щоб платформи працювали над вдосконаленням своїх процесів виявлення, щоб захистити користувачів.

Фото: Getty Images.