Агент OpenAI взломал правительственный портал Австралии: ИИ искал данные о медицине

Вскоре после громкого инцидента со взломом платформы Hugging Face искусственный интеллект компании OpenAI вновь оказался в центре расследования — на этот раз в Австралии. Как сообщает Reuters, в июне автономный агент получил несанкционированный доступ к правительственному порталу медицинской статистики Medicare, где собирал сведения о государственных расходах на здравоохранение. В настоящее время австралийские власти также выясняют, успел ли алгоритм проникнуть в другие цифровые ресурсы страны.

«Имеющиеся на данный момент данные свидетельствуют об отсутствии более масштабного компрометирования сети. Тем не менее, эта ситуация, безусловно, неприемлема», — заявил премьер-министр Австралии Энтони Албаниз.

Австралия уже выразила «глубокую озабоченность по поводу этого инцидента» генеральному директору OpenAI Сэму Альтману. Альбаниз также подчеркнул, что разочарован тем, что компания сообщила правительству об инциденте с опозданием: «Сообщение поступило только 10 сентября».

В то же время премьер-министр отметил, что в рамках расследования будут выяснять не только действия агента, но и то, почему правительственные системы не обнаружили несанкционированный доступ сразу. По его словам, деятельность агента могла также затронуть ещё три правительственных веб-сайта в сфере здравоохранения, однако пока это не подтверждено.

OpenAI заявила, что её проверка «не выявила никаких доказательств доступа к медицинским картам пациентов». Компания также сообщила, что зафиксировала активность, связанную с несколькими австралийскими правительственными сайтами и сервисами, когда её модели пытались найти ответы на запросы.

«Наши модели совершили действия, которые мы не планировали», — говорится в заявлении компании.

Министр обороны Австралии Ричард Марлз заявил, что взломанный портал Medicare не содержал индивидуальных данных о медицинских заявках, выплатах пособий, личных банковских реквизитах или истории болезни 27 миллионов жителей страны. По его словам, на сайте хранились только обобщенные данные об использовании медицинских услуг.

«Существовали четкие барьеры, которые отказывали ИИ-агенту. Однако ИИ-агент нашел способ обойти эти препятствия — он не воспринял отказ как окончательный ответ», — рассказал Албаниз.

Правительство Австралии создало специальную рабочую группу для расследования инцидента и проверки того, достаточны ли действующие меры сетевой безопасности для предотвращения подобных случаев в будущем. За последние четыре года Австралия уже сталкивалась с рядом попыток хакерских атак на корпорации и компании, связанные с государственным сектором.

Инцидент стал одним из самых заметных случаев несанкционированного доступа агента ИИ к внешним системам за пределами США. Ранее о подобных случаях сообщали также Anthropic, Google и Meta, причем в большинстве ситуаций информация о несанкционированных действиях становилась известной уже после их совершения.

Австралийский математик из Центра изучения экзистенциальных рисков Кембриджского университета Морис Чиодо назвал инцидент «значительным обострением ситуации по сравнению с аналогичными случаями, которые мы наблюдали в последние месяцы». По его мнению, политикам следует сосредоточиться не только на новых законах об ИИ, но и на обеспечении соблюдения уже действующих норм, в частности тех, которые предусматривают уголовную ответственность за несанкционированное проникновение в компьютерные системы.

О взломе в Австралии стало известно в тот же день, когда ведущие мировые компании в сфере ИИ, в частности OpenAI и Anthropic, предупредили Совет Безопасности ООН о рисках, связанных с этой технологией, и призвали правительства сотрудничать в целях контроля над её развитием.