Агент OpenAI зламав урядовий портал Австралії: ШІ шукав дані про медицину

Невдовзі після гучного інциденту зі зламом платформи Hugging Face штучний інтелект компанії OpenAI знову опинився в центрі розслідування — цього разу в Австралії. Як повідомляє Reuters, у червні автономний агент отримав несанкціонований доступ до урядового порталу медичної статистики Medicare, де збирав відомості про державні витрати на охорону здоров’я. Наразі австралійська влада також з'ясовує, чи встиг алгоритм проникнути до інших цифрових ресурсів країни.

«Наявні на цей момент дані свідчать про відсутність масштабнішого компрометування мережі. Тим не менш, ця ситуація, безумовно, є неприйнятною», — заявив прем’єр-міністр Австралії Ентоні Албаніз.

Австралія вже висловила «глибоке занепокоєння щодо цього інциденту» генеральному директору OpenAI Сему Альтману. Албаніз також наголосив, що розчарований тим, що компанія повідомила уряд про інцидент із затримкою: «Повідомлення надійшло лише 10 вересня».

Водночас прем’єр-міністр зазначив, що в межах розслідування з’ясовуватимуть не лише дії агента, а й те, чому урядові системи не виявили несанкціонований доступ одразу. За його словами, діяльність агента могла також вплинути ще на три урядові вебсайти у сфері охорони здоров’я, однак наразі це не підтверджено.

OpenAI заявила, що її перевірка «не виявила жодних доказів доступу до медичних карток пацієнтів». Компанія також повідомила, що зафіксувала активність, пов’язану з кількома австралійськими урядовими сайтами та сервісами, коли її моделі намагалися знайти відповіді на запити.

«Наші моделі вчинили дії, які ми не планували», — йдеться в заяві компанії. 

Міністр оборони Австралії Річард Марлз заявив, що зламаний портал Medicare не містив індивідуальних даних про медичні вимоги, виплати допомоги, особисті банківські реквізити чи історії хвороби 27 мільйонів жителів країни. За його словами, на сайті зберігалися лише узагальнені дані про користування медичними послугами.

«Були чіткі бар’єри, які відповідали агенту ШІ відмовою. Однак агент ШІ знайшов спосіб обійти ці перешкоди — він не сприйняв відмову як остаточну відповідь», — розповів Албаніз.

Уряд Австралії створив спеціальну робочу групу для розслідування інциденту та перевірки того, чи достатньо чинних заходів мережевої безпеки для запобігання подібним випадкам у майбутньому. За останні чотири роки Австралія вже стикалася з низкою спроб хакерських атак на корпорації та компанії, пов’язані з державним сектором.

Інцидент став одним із найпомітніших випадків несанкціонованого доступу агента ШІ до зовнішніх систем за межами США. Раніше про подібні випадки повідомляли також Anthropic, Google та Meta, причому в більшості ситуацій інформація про несанкціоновані дії ставала відомою вже після їхнього здійснення. 

Австралійський математик із Центру вивчення екзистенційних ризиків Кембриджського університету Моріс Чіодо назвав інцидент «значним посиленням серйозності порівняно з подібними випадками, які ми спостерігали останніми місяцями». На його думку, політикам варто зосередитися не лише на нових законах щодо ШІ, а й на забезпеченні виконання вже чинних норм, зокрема тих, що передбачають кримінальну відповідальність за несанкціоноване проникнення в комп’ютерні системи.

Про злам в Австралії стало відомо того ж дня, коли провідні світові компанії у сфері ШІ, зокрема OpenAI та Anthropic, попередили Раду Безпеки ООН про ризики, пов’язані з цією технологією, та закликали уряди співпрацювати для контролю над її розвитком.