MY.UAНовости
С картинками
Текстовый вид
ru
УкраинскийРусский
24 октября, суббота

ИИ-агенты OpenAI общались друг с другом на локальных виртуальных машинах без подключения к сети

ШІ-агенти OpenAI спілкувались один з одним на локальних віртуальних машинах без мережі

В В OpenAI заявили, что некоторые из ИИ-агентов компании нашли способ взаимодействовать друг с другом на изолированных виртуальных машинах, используя разницу во времени кэширования.

Отмечается, что одна из моделей воспользовалась ошибкой конфигурации DNS в поисках выхода из “песочницы”. Она приостановила обучение на новых платформах и собрала команды ИИ-агентов для поиска уязвимостей изолированной среды.

В ходе экспериментов специалисты OpenAI также просили ИИ-агентов, размещенных на изолированных виртуальных машинах, обмениваться конфиденциальной информацией без использования сетевого соединения или общедоступных файлов с возможностью записи.

ИИ-агенты смогли наладить связь друг с другом из-за разницы во времени обработки данных в кэше. Эта разница возникает из-за того, что чтение данных из кэша происходит быстрее, чем извлечение данных из основной памяти.

ШІ-агенти OpenAI спілкувались один з одним на локальних віртуальних машинах без мережі
OpenAI

“Агенты нашли способ обмениваться данными, используя кэш процессора: небольшую, быстродействующую память, в которой хранятся копии данных, к которым программы недавно обращались. Один агент шифровал информацию, удаляя выбранные данные из кэша. Другой засекал время, необходимое для повторной загрузки этих данных, используя разницу между быстрым и медленным чтением для восстановления сообщения. Как только агенты согласовывали протокол кодирования и декодирования этих сигналов, они могли обмениваться синтетическими секретами, не изменяя общий файл и не устанавливая сетевое соединение”, — пояснили в OpenAI. 

Современные процессоры и видеокарты используют встроенные датчики температуры, такие как температурные диоды. Они в первую очередь предназначены для мониторинга температуры, позволяя регулировать мощность системы охлаждения, снижать тактовую частоту или отключать систему в случае перегрева.

Однако ряд исследований показал, что между двумя изолированными системами можно поддерживать низкоскоростной скрытый канал связи. Обмен данными происходит в результате нагрева одного из процессоров, а затем возникающие температурные колебания используются в качестве кода, который способна прочитать другая система.

На этой неделе также появились сообщения о взломанных версиях модели DeepSeek V4.1-Flash-1017, которые вообще не блокируют никакие запросы. В последние недели и месяцы также появляется всё больше тревожных сообщений о выходе из-под контроля тех или иных моделей ИИ, а также использование ИИ-агентов для проведения кибератак.

Источник: OpenAI; Wccftech

Источник материала
ITCITC
loader
loader