Російські хакери залучили штучний інтелект Claude для кібератак на Україну, – Anthropic

Про це йдеться у звіті з безпеки компанії Anthropic.

Як Росія використовувала штучний інтелект проти України?

Пов'язана з Росією хакерська група використовувала модель Claude для кібератак проти представників українського уряду, військового та дипломатичного секторів. Зловмисники застосовували штучний інтелект майже на кожному етапі своїх цифрових операцій. За оцінками компанії, тактика цієї групи відповідає діям угруповання Midnight Blizzard, яке пов'язують із російською Службою зовнішньої розвідки.

За даними розробників, ворожа група здійснювала фішингові атаки, перехоплення Wi-Fi у готелях і операції із захоплення облікових записів WhatsApp проти українських посадовців і дипломатів.

Використання ШІ виходило за межі простих запитань і відповідей чат-бота та натомість передбачало використання мультиагентних систем,
– зазначається у звіті компанії.

Окремо зловмисники намагалися отримати інформацію про українське виробництво військових дронів. Вони зламали поштові скриньки щонайменше двох виробників комплектуючих, атакували компанію, що виготовляє військові безпілотники, а також викрали повний пакет програмного забезпечення для системи комп’ютерного зору дрона.

Після цього протягом кількох днів за допомогою Claude аналізували викрадені дані та відновлювали структуру системи, її апаратні компоненти, зв'язки з постачальниками та характеристики ще не представленого продукту. Найбільше їх цікавили системи керування військовими дронами та прошивки, пов'язані зі штучним інтелектом.

Крім того, хакери застосовували ШІ для створення автоматизованої системи, яка виявляла блокування шкідливого програмного забезпечення засобами захисту та переписувала код доти, доки він не ставав непомітним для систем безпеки. Також у звіті задокументовано інші випадки підозрілого використання моделей у регіонах, де сервіс офіційно не працює, після чого всі виявлені акаунти порушників було заблоковано.

Нагадаємо, американські спецслужби попередили про масштабний збір відповідей західних ШІ-моделей китайськими компаніями. За їхніми даними, DeepSeek, Moonshot AI, Alibaba та інші розробники могли надсилати мільйони запитів до моделей GPT, Claude, Gemini та Grok, а отримані відповіді використовувати для навчання власних систем.

Для цього могли застосовувати велику кількість акаунтів, проксі та різні сервіси, щоб приховати справжні масштаби активності. Сам метод дистиляції знань є звичайним у розробці ШІ, однак у США вважають, що його масове використання для копіювання можливостей чужих моделей загрожує технологічній перевазі країни.