Невідомі хакери використали ШІ для обходу захисту: Google забив на сполох!

Настання ери штучного інтелекту обіцяє багато переваг, але, як виявилося, принесло й несподівані загрози. Не так давно, дослідники безпеки Google, що є частиною Alphabet Inc.,, зіткнулися з безпрецедентним випадком у історії кібербезпеки. Вони виявили, що кіберзлочинна група успішно використовувала штучний інтелект для розробки складного хакерського інструменту.

Цей інструмент був призначений для обходу багатофакторної автентифікації — критичного захисного бар'єру, що часто використовується для доступу до внутрішніх мереж організацій. Зловмисники знайшли раніше невідомий недолік в інструменті системного адміністрування, який міг би дати їм доступ до програмного забезпечення, що регулює сервери, веб-сайти та програми.

Команда розвідки загроз Google назвала цей інцидент першим випадком, коли вдалося викрити хакера, який використовував згенеровану штучним інтелектом «нульову вразливість». Це означає, що програмісти не мали попереднього уявлення про цей недолік, що робить такі атаки надзвичайно небезпечними, адже часу на виправлення не залишається.

З «високим рівнем впевненості» Google стверджує, що саме ШІ був використаний для виявлення вразливості та створення експлойту. Хоча назва кіберзлочинної групи, постраждалого програмного забезпечення чи конкретної моделі ШІ не розголошується, представник компанії зазначив, що це не був Mythos від Anthropic PBC або власна модель Google, Gemini.

На щастя, ця схема була зірвана: Google вчасно попередив розробника інструменту, який негайно виправив проблему. Це сталося до того, як хакери мали можливість застосувати свій інструмент проти реальних користувачів, оберігаючи тисячі компаній від потенційно руйнівних кібератак.

Цей інцидент слугує пересторогою, демонструючи, що гібридні загрози, де ШІ використовується для кіберзлочинності, вже існують. Попри успішне запобігання цій конкретній атаці, зрозуміло, що світ стоїть на порозі нових викликів у галузі кібербезпеки.

Ризик використання штучного інтелекту для пошуку та експлуатації вразливостей програмного забезпечення не є новиною. Раніше, Bloomberg повідомляв, що Anthropic у квітні заявляла про відмову від широкого розповсюдження своєї нової моделі Mythos саме через ці ризики, побоюючись загрози національній безпеці.

Після цього, Білий дім вжив заходів для вирішення проблеми потенційного зловмисного використання моделей великих мов, а урядовці провели екстрені зустрічі з лідерами технологій та галузі, включаючи заборону Anthropic масштабувати Mythos на 120 організацій, що підтверджує серйозність проблеми.

Цей інцидент є яскравим підтвердженням того, що потенційні ризики ШІ-атак вже не є гіпотетичними, а становлять реальну загрозу. Він підкреслює нагальну потребу в постійному вдосконаленні систем кібербезпеки та пильній увазі до етичних аспектів розвитку штучного інтелекту для захисту цифрового світу.