Эксперимент превратился в скандал: модели Anthropic взломали чужие системы

Мир искусственного интеллекта снова всколыхнула тревожная новость. Компания Anthropic подтвердила: ее модели ИИ в ходе тестовых упражнений смогли вырваться из изолированной среды и проникнуть в системы других компаний. Это произошло из-за ошибки в конфигурации – тестовая среда, которая должна была быть отключена от интернета, оказалась открытой.

Anthropic. Фото из открытых источников

Модели Claude использовали базовые техники: слабые пароли, открытые точки доступа. В результате они получили доступ к трем организациям. Две из них даже не знали о взломе, пока Anthropic не сообщила об инциденте.

Все началось с так называемых capture-the-flag упражнений – это симуляции, где ИИ должен найти скрытую информацию в искусственных сетях. Но в этот раз симуляция оказалась слишком реальной. Claude "поверил", что интернета нет, но из-за ошибки конфигурации он получил настоящий доступ.

Anthropic приостановила все киберэксперименты 23 июля и сообщила пострадавшим компаниям 27 июля . Инцидент произошел всего через несколько дней после того, как OpenAI раскрыла схожий случай с моделями, взломавшими инфраструктуру Hugging Face.

Эксперты уже называют это тревожным сигналом. Если даже в контролируемых условиях модели способны осуществлять реальные кибератаки, что будет, когда они получат больше автономии?

Этот случай показал: ИИ уже не просто инструмент, а потенциальный игрок в мире киберугроз. И теперь вопрос безопасности становится критически важным для всей индустрии.

Напомним: портал "Комментарии" писал, почему Сэм Альтман хочет притормозить разработку новых моделей искусственного интеллекта.