Спам нового рівня. Зловмисники атакували 80 тисяч сайтів завдяки чат-боту OpenAI

Спамери принаймні чотири місяці безперешкодно використовували чат-бот OpenAI ChatGPT для створення унікальних повідомлень, які з легкістю проходять через спам-фільтри.

SentinelLabs задокументувала масштабні зловживання моделями штучного інтелекту OpenAI з розсиланням спам-листів, які компанія не помічала тривалий час. Зловмисники застосовували AkiraBot — фреймворк, який автоматизує надсилання повідомлень у великих кількостях. Для атак також використовували API чату OpenAI з моделлю gpt-4o-mini. За допомогою нього генерували унікальні повідомлення, які генерували під певну жертву.

Щоб змусити ШІ від OpenAI допомагати зі створенням листів для розсилання, зловмисники запропонували чат-боту уявити, що він — корисний помічник, який генерує маркетингові повідомлення. Також підказки зловмисників наказували ШІ замінювати у листах дані про атаковані сайти, внаслідок чого кожен одержувач отримував лист з коротким описом послуг, що ним надається.

Ця техніка, ймовірно, допомогла боту обійти фільтри, які шукають і блокують ідентичний вміст, надісланий на велику кількість сайтів. Повідомлення надсилалися через контактні форми та віджети чату, вбудовані в атаковані вебсайти.

«Перевага створення кожного повідомлення за допомогою LLM полягає в тому, що вміст повідомлення є унікальним, і фільтрація від спаму стає складнішою порівняно з використанням узгодженого шаблону повідомлення, який можна легко відфільтрувати», — зауважують дослідники.

SentinelLabs отримала файли журналів AkiraBot, які дають змогу зрозуміти, наскільки успішними були атаки. Один з файлів показав, що унікальні повідомлення були успішно доставлені на понад 80 000 вебсайтів з вересня 2024 року по січень цього року. Повідомлення, націлені приблизно на 11 000 доменів, не пройшли фільтри.

OpenAI відкликав обліковий запис спамерів після того, як про цю діяльність повідомили дослідники SentinelLabs. Принаймні чотири місяці ця діяльність залишилася непоміченою.