Meta запустила ШІ інструменти для виявлення прихованих матеріалів про сексуальне насильство над дітьми

Meta оголосила , що вжила заходів проти 33,2 мільйонів одиниць контенту про сексуальну експлуатацію дітей у Facebook та Instagram у першій половині 2026 року. Водночас компанія впроваджує нові інструменти штучного інтелекту для пошуку реклами та облікових записів, які можуть бути використані для таємного перенаправлення людей до незаконних матеріалів про жорстоке поводження з дітьми.

За словами компанії, понад 97% контенту, на який Meta відреагувала, було знайдено її системами до того, як користувачі повідомили про нього. В Індії Meta за той самий період вжила заходів щодо 5,3 мільйона одиниць контенту про сексуальну експлуатацію дітей, причому понад 98% було виявлено до того, як користувачі повідомили про нього.

Meta заявила, що її новітні інструменти штучного інтелекту спрямовані на людей, які використовують рекламу, що виглядає нешкідливою, щоб перенаправляти користувачів до незаконного контенту за межами платформ Meta.

Компанія представила нову систему великої мовної моделі (LLM) для виявлення того, що вона називає «вказівками». Це стосується реклами, яка може виглядати нормально, але підозрюється у перенаправленні користувачів до незаконного контенту чи іншої шкідливої ​​діяльності в Інтернеті. Meta стверджує, що це тактика, яку нещодавно використовували зловмисники, продовжуючи змінювати свої методи, щоб уникнути виявлення. Хоча сама реклама може не містити незаконних матеріалів, вона все ще може слугувати входом до веб-сайтів, де розміщено матеріали про сексуальне насильство над дітьми.

Через це, Meta заявила, що тепер перевіряє, куди реклама перенаправляє користувачів, а не лише її вміст. Компанія може використовувати цю інформацію для блокування веб-сайтів або інших ресурсів, які порушують її правила, та вживати заходів проти облікових записів, що стоять за ними.

Meta також використовує додаткові сканування на основі штучного інтелекту, щоб знаходити контент, пов'язаний з експлуатацією дітей, який могли пропустити попередні системи. Компанія заявила, що продовжуватиме додавати нові сигнали, дізнаючись більше про те, як функціонують ці мережі.

Ще один новий інструмент — це «агент штучного інтелекту з червоною командою», який тестує власні заходи безпеки Meta. Він шукає слабкі місця, які зловмисники можуть використовувати, щоб обійти захист компанії. Meta заявила, що це може допомогти їй знайти нові методи зловживань, перш ніж вони стануть більш поширеними.