Штучний інтелект перетворився на зброю в руках педофілів: експерти заявляють про справжній кошмар

Поки художники малюють за допомогою штучного інтелекту образи різних країн світу у вигляді немовлят та уявляє дитячі портрети різних політиків, в руках зловмисників він перетворюється на шкідливий інструмент. Йдеться про педофілів, які почали створювати таким чином та розповсюджувати матеріали про сексуальне насильство над дітьми.

Відповідний матеріал вийшов у виданні The Washington Post. Експерти розповіли його журналістам, що саме викликає у них стурбованість у цьому питанні.

Так на думку директора з науки про дані в некомерційній групі захисту дітей Thorn Ребекки Портнофф, дитячі зображення, в тому числі фото відомих жертв насильства, переробляються за допомогою ШІ. Це може ускладнити правоохоронцям роботу з надання допомоги жертвам таких злочинів. Портнофф також зазначила, що її група фіксує зростання кількості подібного контенту місяць від місяця, починаючи з минулої осені.

Експертка зазначила, що поліції і так непросто ідентифікувати жертв. А інструменти ШІ, які є легкими у використанні та створюють реалістичні зображення, роблять цю задачу ще складнішою. "Ідентифікація жертви – це вже голка в копиці сіна, коли правоохоронні органи намагаються знайти дитину в небезпеці", - продовжила Портнофф.

Як з’ясували журналісти видання, більшість зловмисників швидше за все використовують генератори зображень з відкритим вихідним кодом, такі як модель Stable Diffusion. І хоча в цьому інструменті є кілька запобіжників проти подібного використання, в тому числі відповідні фільтри, внесення кількох правок у код може легко обійти їх.

Ідентифікувати такі зображення може бути дуже важко. Існуючі системи для зупинки поширення подібного нелегального контенту були розроблені для виявлення уже відомих зображень, а не новостворених.

Повідомляється, що зловмисники уже почали обмінюватись інформацією, як створювати подібний контент. І все більше з них стали використовувати штучний інтелект з протиправною метою. Що загалом вписується у більш широку тенденцію сексуального насильства, яке скоюють за допомогою ШІ.

Підписуйтесь на канали OBOZREVATEL в Telegram і Viber, щоб бути в курсі останніх подій.