ИИ-агенты пытались взломать правительственный сайт Канады

Исследовательская компания Transluce заявила, что агенты искусственного интеллекта дважды пытались получить доступ к ресурсам «Библиотеки и архива Канады» (Library and Archives Canada). По данным компании, попытки оказались неудачными, и канадская сторона не зафиксировала компрометации своих систем, передает Reuters.

Transluce сообщила об инциденте правительству Канады в понедельник, 28 сентября. Канадский центр кибербезопасности на следующий день заявил, что знает о сообщениях о вероятной активности ИИ-агентов, однако «на данный момент нет никаких признаков того, что правительственные системы были скомпрометированы».

«Мы не можем с уверенностью связать эти попытки с OpenAI, но они демонстрируют тактику, схожую с ранее зафиксированной активностью агентов, которую мы приписывали OpenAI в тот же период», — заявили в Transluce.

В OpenAI отметили, что знают о сообщениях относительно попыток её моделей получить доступ к общедоступной информации на правительственных сайтах Канады. Представитель компании сообщил, что OpenAI изучает полученные данные и уже предоставила предварительную информацию канадским чиновникам, проводящим правительственную проверку.

По данным Transluce, бесплатный онлайн-сервис arquivo.pt, национальный веб-архив Португалии, зафиксировал 899 запросов к поисковой системе в коллекциях «Библиотеки и архива Канады» 28 мая и 9 июня. Среди них были серии примитивных попыток взлома, которые, вероятно, оказались неудачными.

Между тем ведущие мировые компании в сфере ИИ всё чаще предупреждают о рисках, связанных с развитием этой технологии, и призывают правительства сотрудничать для контроля над всё более мощными системами. Случаи несанкционированного вмешательства ИИ-агентов, зафиксированные в последнее время в разных странах, уже неоднократно вызывали беспокойство. На прошлой неделе Австралия сообщила, что в июне агент OpenAI получил несанкционированный доступ к файлам на правительственном портале с медицинскими данными.