Дослідження: ШІ відтворює російські фейки

Аналітичний центр Demos заявив: чатботи зі штучним інтелектом стають новим каналом поширення пропаганди, а окремі моделі відтворюють або підсилюють російські дезінформаційні наративи. Такого висновку дослідники дійшли після аналізу 3 тис. відповідей п'яти AI-моделей, повідомляє The Observer.

У звіті наведено приклад, коли модель Mistral підтвердила неправдиве твердження про нібито причетність українських високопосадовців до великої мережі майнінгу криптовалют на державних електростанціях. Як джерело вона використала матеріал Foundation to Battle Injustice (r-FBI) — російської пропагандистської структури, створеної Євгеном Пригожиним, яка перебуває під санкціями Європейського Союзу.

За даними Demos, приблизно одна з шести відповідей AI-моделей підтримувала або підсилювала твердження r-FBI. Ще 31% відповідей використовували ці наративи без згадки про їхнє походження. І лише 52% відповідей прямо спростовували дезінформацію.

Окрему увагу автори приділили явищу, яке вони назвали RAG poisoning — розміщенню неправдивих матеріалів на зовні достовірних сайтах, щоб чатботи, які використовують пошук у мережі, сприймали їх як надійні джерела.

На думку співавтора дослідження Карла Міллера, інформаційні операції поступово зміщуються із соціальних мереж до AI-сервісів. Особливий ризик, на його переконання, становлять застосунки з AI-компаньйонами: там користувачі взаємодіють із віртуальними співрозмовниками протягом тривалого часу.

У Mistral заявили, що «надзвичайно серйозно» ставляться до боротьби з дезінформацією та постійно вдосконалюють механізми її виявлення й запобігання. В OpenAI повідомили, що ChatGPT використовує широкий спектр відкритих джерел, прозоро їх цитує, фільтрує шкідливий контент і працює над виявленням прихованих кампаній впливу та підвищенням точності своїх моделей.

Дослідження про використання штучного інтелекту в інформаційних операціях з'являються вже не вперше. На початку 2025 року моніторингова організація NewsGuard повідомила, що російська мережа «Правда» навмисно насичує інтернет кремлівськими наративами для ШІ, щоб великі мовні моделі використовували їх у своїх відповідях. Інший аудит засвідчив, що провідні моделі регулярно відтворюють російські фейки та іншу дезінформацію.

При цьому Росія використовує штучний інтелект не лише як об'єкт маніпуляцій, а й як інструмент інформаційних операцій. OpenAI раніше заблокувала пов'язані з мережею «Рыбарь» акаунти, які застосовували ChatGPT для створення контенту російських кампаній впливу.