Кращі за GPT та Gemini: Microsoft представила ШІ-інструменти безпеки з рекордними результатами

29 липня, 07:15

Microsoft представила нові інструменти штучного інтелекту, розроблені для того, щоб допомогти клієнтам постійно оптимізувати й автоматизувати процес виявлення та усунення ризиків безпеки. Вони були анонсовані менше ніж через тиждень після того, як OpenAI втратила контроль над двома своїми моделями безпеки, які проникли на сервери стартапу Hugging Face.

За словами Hugging Face, атака включала “рій десятків тисяч автоматизованих дій”, що призвели до викрадення внутрішніх облікових даних компанії. Моделі OpenAI використали вразливість нульового дня в конвеєрі обробки даних Hugging Face, щоб запустити шкідливий код і розширити свій доступ до хмарної та серверної інфраструктури.

AI-Cyber-1-Flash

Microsoft AI-Cyber-1-Flash — це перша модель штучного інтелекту компанії, спеціально навчена для виявлення та усунення вразливостей безпеки. Наразі вона призначена для аналізу програмних вразливостей.

“Нова модель побудована на платформі MAI-Thinking-1. Microsoft описує MAI-Cyber-1-Flash як “компактну модель безпеки з великим обсягом коду”, створену власними силами на основі високоякісних даних”, — каже Microsoft.

Модель навчали, використовуючи унікальний досвід, накопичений Microsoft за десятиліття виправлення вразливостей і реагування на інциденти безпеки в широкому спектрі своїх продуктів. Компанія стверджує, що щодня аналізує понад один трильйон сигналів безпеки та отримує аналітичні дані від 1,6 мільйона клієнтів.

“Оскільки ми можемо пов’язувати дії з результатами — що можна було використати, що було стримано, що заблоковано і що насправді спрацювало — ми маємо більше, ніж просто дані”, — заявили в Microsoft.

MAI-Cyber-1-Flash інтегрована в MDASH — “багатомодельний комплекс агентного сканування”, представлений у травні. Цей комплекс об’єднує 100 спеціалізованих агентів штучного інтелекту для пошуку потенційно експлуатованих помилок у програмному забезпеченні.

“MDASH із MAI-Cyber-1-Flash набрав 96% у тесті CyberGYM — стандартному наборі бенчмарків для оцінки таких систем. Це на 12 балів більше, ніж у Anthropic Mythos, а також вище за результати Google Gemini та OpenAI GPT. Крім того, нова версія MDASH коштує вдвічі дешевше за попередню”, — запевняють у Microsoft.

Project Perception

Другий інструмент, представлений Microsoft, отримав назву Project Perception. Він також складається зі спеціалізованих агентів штучного інтелекту, які виконують функції red team, blue team і green team: шукають вразливості, аналізують їхній рівень ризику та виконують дії для їх усунення.

“Платформа самостійно обирає модель штучного інтелекту залежно від поставленого завдання. При цьому враховуються ефективність моделі та кінцева вартість її використання для клієнта. Вибір базується на “постійних дослідженнях, тестуванні та оцінці передових і спеціалізованих моделей”, — повідомила Microsoft.

У Microsoft стверджують, що Project Perception здатний виконувати 90% завдань дешевше, ніж аналогічні рішення конкурентів. Для решти 10% клієнти можуть використовувати дорожчі альтернативні платформи.

Використовувати чи ні?

Компанія заявляє, що нові інструменти є відповіддю на кардинальні зміни у способах захисту корпоративних мереж від масштабних кібератак.

Спецпроєкти

“Оскільки штучний інтелект прискорює швидкість і масштаби кібератак, фахівці із захисту змушені забезпечувати безпеку дедалі складніших цифрових середовищ, використовуючи підходи, створені для іншої епохи. Командам безпеки часто доводиться поєднувати сигнали, контекст і оцінку ризиків із величезних масивів даних, що ускладнює боротьбу з новими загрозами”, — заявили в Microsoft.

Події минулого тижня з OpenAI, які нагадують сюжети найпохмуріших науково-фантастичних романів, свідчать, що до таких інструментів, які поки що доступні лише в режимі попереднього тестування, варто ставитися з обережністю — про що Microsoft у своєму анонсі не згадує. Перед впровадженням у робочі середовища їх необхідно ретельно перевіряти та оцінювати. Водночас відмова від використання подібних інструментів також несе очевидні ризики. Баланс між потенційною небезпекою агентів ШІ та ризиками їх невикористання поки що залишається відкритим питанням без однозначної відповіді.

Джерело: ArsTechnica

Теги за темою

Microsoft

Джерело матеріала