У соцмережах зросла кількість згенерованих штучним інтелектом фейків, переважають картинки - експерт

Кількість фейків у соцмережах, згенерованих штучним інтелектом, останнім часом суттєво зросла, переважають картинки.

Про це в коментарі Укрінформу сказав редактор інформаційної кампанії з протидії дезінформації «По той бік новин» Сергій Одаренко.

«Останнім часом частка фейків, згенерованих ШІ (особливо зображень), помітно зросла. Люди губляться в потоці інформації, не розуміючи, чому вірити», - підкреслив він.

За словами фактчекера, ШІ значно спрощує роботу фейкоробам, здешевлює і прискорює процеси, дозволяє створювати комплексні фейки (відео, аудіо, тексти). ШІ-модель замінює цілу команду: одна людина з його допомогою продукує великі обсяги брудного контенту, який заплутує споживача.

«Одна з найбільших ШІ-загроз – засилля контенту, створеного нейромережами, це ставить під сумнів справжні та важливі новини, світлини. Вже сьогодні це розмиває реальність та створює сприятливий ґрунт для маніпуляцій, і в майбутньому ця проблема загостриться», - сказав Одаренко.

Наразі в соцмережах найбільше продукують візуальні фейки, які у супроводі емоційного тексту розпалюють емоції користувачів. Завдання російських фейкоробів полягає саме у постійному вкиданні контенту, що виводить українців з рівноваги, підкреслив експерт. На його думку, це робить фейки особливо небезпечним інструментом дезінформації, однак не слід піддаватися емоціям і реагувати на них.

Як розповів редактор проєкту, зміна підходів Facebook щодо модерування контенту ніяк не запобігла поширенню фейків, і навіть навпаки.

«Марк Цукерберг заявив, що Facebook, Instagram і Threads більше не будуть суворо модерувати контент користувачів. Ми вже помітили, як це призвело до збільшення сумнівного контенту, який алгоритми Фейсбуку підсовують користувачам. Для українців це нерідко саме російський контент», - пояснив Одаренко.

На думку фактчекера, боротьба з дезінформацією в державі має бути системною, а її моніторинг цілодобовий, бо це явище стало вже надто масовим та агресивним. Для захисту від його впливу «По той бік новин» нещодавно започаткували просвітницький спецпроєкт «Штучний інтелект і дезінформація».

«Важливо довести читачам, що ШІ дуже активно використовується ворогами і слід завжди дещо скептично сприймати ШІ-контент. Та існує категорія людей, які попри все поширюють фейки, виправдовуючись хоча б тим, що ШІ-зображення є «чудовою ілюстрацією правди». З ними працювати найважче», - констатував Одаренко.

Як повідомлялося, нещодавно дослідження NewsGuard (ресурс, що оцінює новинні та інформаційні сайти за критеріями прозорості і достовірності.) засвідчило, що топ-10 систем штучного інтелекту (ChatGPT, Gemini, Copilot, Claude та інші) у 33% випадків репродукували російські фейки. Це стало можливим, бо прокремлівська дезінформаційна мережа Pravda проникала в запити до популярних чатботів штучного інтелекту. Pravda публікує мільйони статей з дезінформацією, видаючи їх за нормальні новини. Ці матеріали поглинають великі мовні моделі і фейки потрапляють у відповіді штучного інтелекту. Некомерційна організація American Sunlight Project назвала цю тактику LLM Grooming — заповнення ШІ-моделей масовою пропагандою з метою їх домінування у відповідях на запити.