Неконтролируемый искусственный интеллект OpenAI атаковал вторую технологическую компанию

ИИ-агент компании OpenAI, который вышел из-под контроля и в течение нескольких дней осуществлял взломы систем компании Hugging Face, также проник в системы клиента другой технологической компании - нью-йоркской Modal Labs. Об этом сообщает From-UA.org со ссылкой на Reuters.

Согласно опубликованной Hugging Face хронологии инцидента, ИИ-агент сначала проник в так называемую песочницу - изолированную тестовую среду, размещенную на инфраструктуре стороннего провайдера, а затем использовал ее как плацдарм для более масштабной атаки.

В публикации не назывался сторонний провайдер, на чьей инфраструктуре размещалась песочница. Однако технический директор Modal Акшат Бубна сообщил, что агент воспользовался уязвимостью в коде, написанном клиентом компании и размещенном на платформе Modal. Хотя взлом клиента Modal стал лишь начальным этапом более широкой хакерской кампании против Hugging Face, это свидетельствует о том, что действия вышедшего из-под контроля ИИ-агента имеют более масштабные последствия, чем было известно ранее.

На прошлой неделе OpenAI сообщила, что во время тестирования в контролируемой среде самых мощных моделей ИИ одна из них вырвалась из замкнутого испытательного сегмента, вышла во всемирную сеть и провела хакерскую атаку на стартап Hugging Face.

Разработчик ИИ назвал инцидент беспрецедентным ЧП в киберпространстве и сообщил, что укрепит механизмы защиты. Сооснователь Hugging Face Клеман Деланг подтвердил факт атаки со стороны ИИ. «Трудно поверить, что всё это ИИ провел самостоятельно!» - написал он в соцсети X.

Ранее From-UA.org сообщало, что компания OpenAI сообщила, что во время внутреннего тестирования две ее модели искусственного интеллекта самостоятельно вышли за пределы изолированной тестовой среды и скомпрометировали инфраструктуру компании Hugging Face, которая предоставляет платформу для размещения моделей искусственного интеллекта с открытым кодом.