Алгоритми Instagram просувають акаунти, які поширюють контент про сексуальну експлуатацію дітей, – дослідження

Алгоритми рекомендацій Instagram пов’язують і просувають акаунти, які шукають та продають контент із сексуальним насильством над дітьми. Про це йдеться у публікації Wall Street Journal, що ґрунтується на дослідженні, проведеному працівниками Стенфордського університету та університет Массачусетса в Амхерсті.

Дослідники виявили, що Instagram дозволяв людям шукати відверті хештеги, такі як #pedowhore і #preteensex, і зконтактовував їх з обліковими записами, які використовували ці терміни для реклами матеріалів дитячого сексу на продаж. У таких облікових записах з відверто сексуальними назвами часто стверджувалося, що їх власниками є діти.

«Через широке використання хештегів, відносно довге існування акаунтів продавців і, особливо, дієвий алгоритм рекомендацій, Instagram слугує ключовим механізмом пошуку для цієї специфічної спільноти покупців і продавців», — сказано в дослідженні.

Дослідники виявили, що алгоритми рекомендацій Instagram також просувають їх користувачам, які переглядають акаунт у мережі, що дозволяє знаходити акаунти без пошуку за ключовими словами.

Meta відповіла на запити WSJ перед публікацією, сказавши, що заблокувала тисячі хештегів, які сексуалізують дітей, деякі з яких, за даними журналу, містили мільйони публікацій.

Технологічний гігант також заявив, що заборонив своїм системам рекомендувати пошукові терміни користувачам, які пов’язані з сексуальним насильством над дітьми.

Згідно з публікацією WSJ, Meta видалила опцію, яка дозволяє користувачам переглядати підозрювані випадки сексуального насильства, лише після того, як видання запитало про це, і компанія відмовилася пояснити, чому взагалі була така опцію.

Також Meta запевнила WSJ, що працює над тим, щоб запобігти тому, щоб її системи рекомендували потенційно педофілічним дорослим зв’язуватися один з одним або взаємодіяти з вмістом один одного.

Після публікації комісар ЄС з питань внутрішнього ринку Тьєррі Бретон заявив, що особисто відвідає штаб-квартиру Meta в Каліфорнії 23 червня, щоб обговорити це питання з її власником Марком Цукербергом.

«Здається, добровільний кодекс #Meta щодо захисту дітей не працює», — написав Бретон у Twitter, і додав, що «тепер Марк Цукерберг повинен пояснити та вжити негайних заходів».

#Meta’s voluntary code on child protection seems not to work.

Mark Zuckerberg must now explain & take immediate action.

I will discuss with him at Meta’s HQ in Menlo Park on 23 June.

After 25 August, under #DSA Meta has to demonstrate measures to us or face heavy sanctions. pic.twitter.com/jA25IJH8Dp

— Thierry Breton (@ThierryBreton) June 8, 2023

За словами Бретона, в кінці літа на Meta почне поширюватися закон Європейського Союзу про модерацію контенту. Порушення закон «Про цифрові послуги» можуть спричинити «суворі санкції»: штраф може сягнути 6% світового доходу компанії.

Нагадаємо, раніше повідомлялося, що рекомендації YouTube можуть вести дітей до відео про шкільні стрілянини та іншого контенту, пов’язаного зі зброєю. Про це свідчать дані некомерційної наглядової групи Tech Transparency Project.

Фото: Unsplash