Хакери почали викрадати дані через приховані аудіосигнали для ШІ-асистентів

Уявіть таку ситуацію: ви дивитеся відео або слухаєте подкаст у фоновому режимі, поки займаєтеся домашніми справами. У цей самий час кіберзлочинці отримують повний доступ до ваших особистих фотографій, банківських рахунків та іншої конфіденційної інформації, пов’язаної з розумними пристроями. Звучить як сценарій епізоду серіалу «Чорне дзеркало», однак це вже сувора реальність. Група фахівців з кібербезпеки довела, що голосових помічників у смартфонах і колонках можна непомітно зламати за допомогою звуків, які не чутні для людського вуха.

Результати цього дослідження були представлені на нещодавньому Симпозіумі IEEE з безпеки та конфіденційності. Команда вчених з Китаю та Сінгапуру розробила так зване «змагальне аудіо» — особливий прихований сигнал, який змушує алгоритми штучного інтелекту виконувати незаплановані та потенційно небезпечні дії. Цей шкідливий код легко маскується під нешкідливий контент — музику, фільм або будь-який інший аудіозапис, який нічого не підозрююча жертва може увімкнути на своєму пристрої.

За словами провідного автора дослідження Мен Ченя, аспіранта Чжецзянського університету, на навчання такого сигналу йде всього близько півгодини. Головна небезпека полягає в тому, що атака абсолютно не залежить від контексту. Зловмисники можуть активувати приховану команду в будь-який момент, незалежно від того, що саме говорить користувач, а сам алгоритм не здатний відрізнити нормальний запит від ворожої інтервенції.

На сьогоднішній день у методу є лише одне технічне обмеження: для успішної атаки хакерам необхідно мати доступ до повних ваг — внутрішніх математичних параметрів — цільової ШІ-моделі. Це означає, що під загрозою в першу чергу перебувають системи з відкритим вихідним кодом. Проте багато комерційних продуктів базуються саме на таких рішеннях. Дослідники підтвердили, що їхній експлойт успішно працює проти популярних платформ від корпорації Microsoft і французького стартапу Mistral.

Представники Microsoft вже прокоментували ситуацію. У компанії подякували дослідникам за виконану роботу, зазначивши, що подібні контрольовані тести допомагають удосконалювати захист систем. Розробникам також нагадали про необхідність впровадження додаткових рівнів безпеки при інтеграції ШІ-моделей у споживчі додатки.