Російські ботоферми завдяки ШІ генерують сотні тисяч коментарів щомісяця без участі людини, — «УП»

Росія за допомогою штучного інтелекту розвинула автоматизовану мережу ботоферм, які генерують сотні тисяч коментарів щомісяця без потреби залучати для цього найманих працівників. Про це йдеться в матеріалі «Української правди».

Згідно з щорічним звітом компанії Imperva, яка аналізує автоматизований трафік у мережі, 2024 рік став першим в історії інтернету, коли активність ботів перевищила людську.  

Дослідницькі команди OpenMinds та DFRLab влітку цього року повідомили про понад 3600 ботів у телеграм-каналах окупованих територій України, які за менш ніж півтора року написали щонайменше 316 тисяч коментарів для легітимізації окупації.

Боти дякували російській армії та називали терористами українських військових, а також вихваляла окупаційну владу. «Українська правда» підрахувала 69 різних тем. Один бот впродовж дня міг працювати в десятках каналів, публікуючи коментарі на кардинально різні теми.

Так, користувач «nieucqanoberr» 11 травня 2024 року написав 1449 коментарів у 65 каналах на 40 різних тем. Це в середньому один коментар кожні 36 секунд. Телеграм заблокував його через надмірну активність, однак, як зауважила «УП», російських ботів все важче виявити, оскільки вони вже частіше імітують людську поведінку, зокрема уникають активності вночі.

За даними «УП», ті ж боти з телеграм-каналів окупованих територій написали ще щонайменше 3 мільйони коментарів в каналах України, Росії, а згодом і Молдови.

За 4 місяці до голосування на парламентських виборів у Молдові 28 вересня близько 500 ботів написали понад 80 тисяч коментарів російською та румунською мовами, закликаючи виходити на протести і голосувати за проросійські партії та демонізуючи президентку Майю Санду і її політсилу. Щонайменше 75% користувачів, ідентифікованих як боти, до цього були активні в українському та російському телеграмі, коментуючи переговори російського лідера Володимира Путіна з президентом США Трампом або називаючи Зеленського маріонеткою Заходу.

На ТОТ унікальною була третина їхніх коментарів, тоді як в Молдові штучний інтелект забезпечив 95% унікальності, адаптуючи коментарі під кожен окремий допис. Однак алгоритм все ще припускався помилок. Зокрема, під дописом про дощ в одному з молдовських міст боти залишили більше як десяток коментарів про те, що Майя Санду зіпсувала погоду в країні.

Як пояснила «УП», для створення ботоферми Росія має список тем і повідомлень. Алгоритм моніторить і аналізує інфопростір, і щойно з'являється нова публікація, алгоритм визначає, яка тема зі списку їй найбільше релевантна. Після чого в секцію коментарів вирушають боти, які генерують адаптований під тему посту текст.

Нині боти припускаються дедалі меншої кількості помилок, і їх майже неможливо відрізнити від людей на основі самого лише тексту їхніх коментарів. Для цього потрібні дані про активність цих ботів в інших каналах.

І хоча платформи намагаються обмежити роботу неавтентичних профілів, їхня мотивація, на думку «УП», є низькою через те, що боти збільшують кількість користувачів платформи та обсяги реклами, а розробка та впровадження алгоритмів виявлення ботів потребує витрат. Водночас вирішення проблеми ускладнює те, що реєстрація без підтвердження особи дозволяє створювати нові акаунти сотнями одразу ж після блокування попередніх.

«Наразі найбільш реалістичний спосіб знизити ефективність ботів — максимально поширювати інформацію про цю технологію. Більше говорити про можливості алгоритмів і штучного інтелекту, про їхнє використання в російських інформаційних операціях. Пояснювати, чому не варто довіряти анонімним коментаторам, і радити менше заходити в коментарі там, де учасники спільноти не проходять жодної верифікації, а контент не модерують», — зазначили в «УП».

Читайте також: 

• Від мережі обміну знаннями до фабрики обману. Як штучний інтелект псує інтернет і чи реально його зупинити
• А доведи! Від пошуку огріхів до доказів справжності: як змінився підхід до детекції ШІ-фейків
• Штучний інтелект бреше дедалі краще: нові способи розпізнавати ШІ-фейки та як навчити цього дітей

Колаж: Андрій Калістратенко/«Українська правда»