Google Jigsaw створила інструмент Altitude, що допомагатиме онлайн-платформам відсіювати екстремістський контент

Дочірня компанія-інкубатор Google Jigsaw розробила інструмент для виявлення та блокування екстремістського контенту на онлайн-платформах. Його цільовою аудиторією є невеликі компанії, повідомило TechCrunch.

Jigsaw спеціалізується на розробці IT-рішень для протидії дезінформації, онлайн-цензури, поширення токсичного та екстремістського контенту в мережі. У листопаді 2023 року компанія Jigsaw анонсувала новий інструмент модерації онлайн-контенту під назвою Altitude, який допомагатиме модераторам перевіряти, чи контент на їхніх платформах відповідає контенту, уже позначеному як екстремістський в інших базах даних, замість того, щоб перевіряти кожне джерело окремо, що є менш затратно фінансово.

Altitude було розроблено у партнерстві з ініціативою Tech Against Terrorism, запущеною в 2017 році виконавчим директоратом Контртерористичного комітету ООН (CTED). Інструмент також було розроблено в партнерстві з галузевою організацією Global Internet Forum to Counter Terrorism (GIFCT), членами якої є більшість великих технологічних компаній.

Jigsaw уже офіційно передала Altitude компанії Tech Against Terrorism, яка продовжить її розвиток та забезпечуватиме підтримку. Код інструменту виклали на GitHub під ліцензією Apache 2.0, відтак компанії можуть самостійно розміщувати інструмент у себе.

• Читайте також: Компанії Google та Jigsaw з місцевими експертами запустили в Україні ініціативу з медіаграмотності

Altitude спирається на «надійні» джерела даних, надані організаціями як GIFCT, учасники якої об’єднують свою конфіденційну інформацію з метою роботи автоматизованих інструментів модерації вмісту, а також на базу даних перевіреного терористичного контенту в реальному часі Tech Against Terrorism.

Принцип роботи аналітичної системи Altitude для позначення та видалення терористичного контенту

Використовуючи бази даних довірених партнерів, Altitude консолідує «терористичний і насильницький екстремістський контент» в єдиному середовищі, де модератори онлайн-платформ можуть переглядати та швидко видаляти заборонений контент.

Принцип роботи аналітичної системи Altitude для позначення та видалення терористичного контенту

Оскільки Altitude – проєкт з відкритим вихідним кодом, будь-яка компанія може інтегрувати цей інструмент у свої платформи самостійно або співпрацювати з Tech Against Terrorism, який проведе підключення та забезпечуватиме підтримку.

Фото: Altitude / Google, скриншоти TechCrunch