ИИ-агенты атакуют государственные сайты: OpenAI останавливает тренировку новых моделей

Американская компания OpenAI сообщила о временной остановке разработки и тренировки своих новейших моделей искусственного интеллекта. Решение приняли на фоне роста количества сообщений о случаях, когда ИИ-агенты выходят из-под контроля и действуют вопреки заданным алгоритмам.

Об этом пишет AP.

OpenAI приостановила тренировку новейших ИИ-моделей из-за их непредсказуемого поведения

Разработку заморозили всего через несколько часов после того, как в пятницу компания публично признала факт проверки ряда инцидентов, случившихся летом 2026 года.

Во время сбора и распространения информации на федеральных правительственных порталах США агенты OpenAI предпринимали действия, которых от них не требовали, и вышли за пределы первоначальных задач.

Параллельно с этим исследовательская организация Transluce, занимающаяся оценкой искусственного интеллекта, заявила о неудавшейся попытке взлома вебсайта Министерства образования США агентами, которые вероятно принадлежат OpenAI.

В своем официальном заявлении OpenAI отметила, что возобновит обучающий процесс только тогда, когда убедится, что у компании есть дополнительные меры предосторожности. Там добавили, что разработчикам, вероятно, придется поставить на паузу планы из-за развития ИИ и возникновения новых проблем.

Сейчас лаборатории разработки искусственного интеллекта находятся под значительным давлением со стороны законодателей и отраслевых экспертов. От разработчиков требуют замедлить темпы, чтобы успеть создать надежные механизмы защиты, которые помешают агентам действовать самостоятельно, совершать хакерские атаки на сайты и разглашать непубличные данные.

К призывам уменьшить скорость разработок присоединились даже руководители OpenAI и их главного конкурента — компании Anthropic.

Это уже второй случай остановки разработки моделей OpenAI за последние три месяца. Первая такая пауза произошла в июле после кибератаки на ИИ-стартапе Hugging Face. Тогда возникли серьезные опасения, что индустрия начинает терять контроль над собственными технологиями.

На этой неделе во время встречи с главой КНР Си Цзиньпином президент США Дональд Трамп согласился обмениваться информацией об угрозах искусственного интеллекта и координировать усилия по безопасности. Впрочем, сам Трамп считает страхи вокруг ИИ преувеличенными и позже намекнул, что не планирует вводить никакие жесткие ограничения на национальном уровне.

Сам Трамп не хочет замораживать развитие ИИ, чтобы не уступать Китаю.

Последние инциденты с агентами OpenAI, судя по всему, не привели к утечке закрытых данных, но ситуация оказалась достаточно тревожной, чтобы компания официально предупредила соответствующие федеральные ведомства.

Что именно сделал искусственный интеллект с государственными сайтами

В частности, в случае Министерства образования агенты OpenAI смогли найти ключи разработчика для доступа к правительственным данным, хотя собрали только общедоступную информацию. В самом ведомстве заверили, что не нашли никаких признаков влияния на веб-сайт или базы данных.

Другой случай затронул Комиссию по ценным бумагам и биржам США. Агенты обнаружили открытую информацию и самовольно опубликовали ее в другом месте, что вышло за пределы полученных инструкций.

О схожих случаях неконтролируемого поведения и даже попытки взлома сайтов со стороны своих моделей заявили и несколько других разработчиков ИИ.

Ранее OpenAI опубликовала шесть отчетов о неожиданном или тревожном поведении своих ИИ-моделей и представила специальную систему для отслеживания, расследования и публичного раскрытия подобных инцидентов.

Искусственный интеллект атакует: последние новости

Премьер-министр Австралии Энтони Альбанезе назвал ситуацию неприемлемой, выразил тревогу руководству OpenAI из-за задержки в уведомлении властей и инициировал расследование специальной рабочей группой для проверки защиты государственных сетей, а также возможной активности агента еще на трех медицинских сайтах.

В ответ OpenAI заявила, что ее модели совершили незапланированные действия при поиске ответов, но внутренняя проверка не выявила доступа к частным медицинским данным пациентов. Министр обороны Австралии Ричард Марлз уточнил, что скомпрометированный ресурс содержал только обобщенную статистику, а не личные данные или истории болезней 27 миллионов граждан. Несмотря на это, власти расценивают случай как серьезный инцидент.