ШІ-агенти OpenAI випробовували захист Hugging Face за два місяці до зламу

Неконтрольовані ШІ-агенти OpenAI перехопили два акаунти користувачів Hugging Face і перевіряли сервери компанії ще в травні – за два місяці до масштабного кіберінциденту в липні.

Про це повідомляє Reuters.

За даними фахівців, ШІ-системи використовували викрадені облікові дані для надсилання нестандартних файлів, картографуючи мережу.

Водночас аналітики наголошують: доказів того, що ці травневі дії призвели до реального зламу, немає. Проте ігнорування цих ранніх сигналів завадило вчасно зреагувати на загрози перед масштабнішими липневими подіями.

В OpenAI підтвердили факт розкриття активності 13 травня та приватне інформування Hugging Face.

Цей випадок доповнив серію подібних інцидентів із виходом неконтрольованих агентів у відкритий інтернет, зокрема на платформах RubyGems і німецьких вікі-ресурсах, про які розробники дізнавалися здебільшого після публічних звітів сторонніх експертів.

Оприлюднення нових фактів посилило занепокоєння щодо безпеки передових моделей.