Искусственный интеллект восстал: агент OpenAI впервые атаковал официальный сайт государства

Искусственный интеллект от OpenAI впервые в истории совершил несанкционированный взлом правительственного веб-сайта — это произошло в Австралии. ШИ-агент смог самостоятельно обойти цифровую блокировку системы медицинской статистики, что вызвало жесткую реакцию Канберры.

Об этом пишет Reuters.

Взлом ШИ-агентом правительственного сайта Австралии — что говорят власти

Премьер-министр Австралии Энтони Альбанезе сообщил, что агент OpenAI при исследовании государственных расходов на медицину получил несанкционированный доступ к порталу медицинской статистики Medicare. Эта система является частью общенациональной программы медицинского страхования Австралии.

«Существующие доказательства свидетельствуют о том, что более широкой компрометации… сети не произошло. В то же время эта ситуация, очевидно, неприемлема», — заявил Альбанезе.

Австралийский премьер отметил, что расследование инцидента продолжается. По его словам, правительство также выразило генеральному директору OpenAI Сэму Альтману «крайнюю обеспокоенность этим инцидентом». Альбанезе подчеркнул, что его особенно разочаровала задержка со стороны компании в сообщении австралийским властям о взломе.

«Только 10 сентября вообще поступило какое-то сообщение», — сказал Альбанезе.

Отдельно премьер сообщил, что расследование должно установить, почему государственные системы безопасности не смогли своевременно обнаружить несанкционированный доступ.

По словам Альбанезе, деятельность ИИ-агента потенциально могла затронуть еще три государственных веб-сайта, связанные с системой здравоохранения. В то же время, он не подтвердил, что на этих ресурсах действительно произошли подобные нарушения.

Реакция OpenAI

OpenAI со своей стороны заявила, что проведенная компанией проверка не обнаружила доступ к медицинским данным пациентов.

В то же время OpenAI сообщила, что обнаружила активность, связанную с несколькими австралийскими правительственными сайтами и сервисами.

«Обнаружила активность, связанную с несколькими австралийскими правительственными веб-сайтами и сервисами, когда наши модели пытались найти ответы… наши модели совершили действия, которых мы не планировали», — заявили в компании.

Инцидент с несанкционированным доступом ИИ-агента к австралийскому государственному порталу может еще больше усугубить отношения Канберры с крупными американскими технологическими компаниями. Ранее австралийские власти уже конфликтовали с соцсетями и подвергались критике со стороны Вашингтона из-за введения первого в мире запрета на пользование соцсетями для детей до 16 лет.

Кроме того, в Австралии вступили в силу правила, согласно которым технологические компании должны предоставить пользователям возможность отключать алгоритмические рекомендации контента в своих лентах.

Для расследования инцидента австралийское правительство сформировало специальную рабочую группу. Она также должна оценить, способна ли действующая система защиты государственных сетей предотвращать подобные случаи в будущем.

ИИ-агент нашел способ обойти блокировку

Сообщения о взломе появились в день, когда ведущие компании в сфере искусственного интеллекта предупредили Совет Безопасности ООН о потенциальных угрозах ИИ для человечества. Представители индустрии призвали правительства разных стран совместно наработать подходы к контролю быстроразвивающихся технологий.

За последние четыре года Австралия неоднократно становилась целью хакерских атак. Среди пострадавших оказались как частные корпорации, так и компании, связанные с государственными структурами.

Министр обороны Австралии Ричард Марлз уточнил, что на скомпрометированном портале Medicare не хранились сведения об отдельных медицинских требованиях граждан, выплатах, банковских реквизитах или истории болезней 27 млн австралийцев. Он отметил, что ресурс содержал только обобщенную статистику использования медицинских услуг в стране. Несмотря на это, австралийские власти расценивают ситуацию как серьезный инцидент.

«Очевидно, были установлены блокировки, которые возвращались с сообщением для ИИ-агента: „нет“. ИИ-агент нашел способ обойти эти блокировки — он не принял „нет“ как ответ», — сказал Альбанезе журналистам.

Что известно о других инцидентах, связанных с ИИ-агентами?

Случай в Австралии стал очередным инцидентом, связанным с ИИ-агентами OpenAI, о которых компания сообщила уже после их возникновения. Речь идет о случаях взлома или другой несанкционированной активности агентов.

О получении ИИ-агентами доступа ко внешним системам ранее также сообщали другие крупные технологические компании, в частности, Anthropic, Google с сервисом Gemini и Meta.

В сентябре стало известно, что во время тестирования исследовательских моделей OpenAI зафиксировала шесть случаев непредсказуемого поведения ИИ, когда системы пытались обходить ограничения и действовать без разрешения. В частности, одна из моделей самостоятельно добавила в служебное резюме для следующей версии инструкции с требованием игнорировать обычные правила, заявив о своей независимости от корпораций и правительств. Также ИИ ловили на сокрытии собственных ошибок и самостоятельной загрузке файлов в Интернет.