Рух за захист дітей в Інтернеті робить ставку на ШІ

Глобальний рух за онлайн-безпеку проклав шлях для низки продуктів на базі штучного інтелекту, розроблених для того, щоб тримати дітей подалі від потенційно небезпечних речей в інтернеті.

У Великій Британії новий законодавчий акт під назвою «Закон про безпеку в Інтернеті» покладає на технологічні компанії обов’язок захищати дітей від матеріалів, невідповідних віку, мови ворожнечі, цькування, шахрайства та матеріалів, що містять сексуальне насильство над дітьми (CSAM). За порушення компанії можуть бути оштрафовані на суму до 10% свого світового річного доходу.

Далі, Конгрес США швидко схвалює знакові правила, спрямовані на забезпечення безпеки дітей в Інтернеті. Один із законопроектів, відомий як  Закон про безпеку дітей в Інтернеті , передбачає відповідальність платформ соціальних мереж за запобігання заподіянню шкоди дітям їхніми продуктами — подібно до Закону про безпеку в Інтернеті у Великій Британії.

Цей тиск з боку регуляторів дедалі більше змушує переосмислити дії кількох великих технологічних гравців. Pornhub та інші гіганти онлайн-порнографії блокують усім користувачам доступ до своїх сайтів, якщо вони не пройдуть систему перевірки віку.

Однак порносайти не були єдиними, хто вживав заходів для перевірки віку користувачів. Spotify, Reddit та X запровадили системи перевірки віку, щоб запобігти контакту дітей з матеріалами сексуального характеру або неприйнятними матеріалами.

Такі регуляторні заходи зустріли критику з боку технологічної галузі — не в останню чергу через побоювання, що вони можуть порушувати конфіденційність користувачів Інтернету.

Yoti розробляє технологію, яка робить селфі та використовує штучний інтелект для перевірки віку людини на основі рис обличчя. Компанія стверджує, що її алгоритм штучного інтелекту, навчений на мільйонах облич, може оцінити вік від 13 до 24 років з точністю до двох років.

Раніше фірма співпрацювала з Поштовим відомством Великої Британії та сподівається скористатися ширшим просуванням цифрових посвідчень особи, виданих урядом, у Великій Британії. Yoti не єдина у сфері програмного забезпечення для перевірки особи — серед інших гравців є Entrust, Persona та iProov. Однак компанія була найвідомішим постачальником послуг з перевірки віку за новим режимом у Великій Британії.

«Постачальники технологій та послуг безпеки дітей змагаються у завоюванні довіри», – сказав CNBC Піт Кеньйон, партнер юридичної фірми Cripps. «Нові вимоги, безсумнівно, створили новий ринок, і постачальники прагнуть заявити про себе».

Однак поширення методів цифрової ідентифікації також призвело до занепокоєння щодо порушень конфіденційності та можливих витоків даних.

«Використання цієї технології призводить до суттєвих проблем із конфіденційністю», – сказав Кеньйон. «Довіра є ключовою і її можна заслужити лише завдяки використанню суворих та ефективних технічних процедур і процедур управління, прийнятих для забезпечення безпеки персональних даних».