ИИ сможет самостоятельно захватывать бытовую технику к концу 2026 года — Anthropic

Компания Anthropic предупредила, что небольшие модели искусственного интеллекта могут уже в ближайшие месяцы научиться самостоятельно копироваться на подключенные к интернету устройства без доступа к дата-центрам. Такие системы потенциально смогут распространяться по сети, используя уязвимости бытовой техники и недорогих гаджетов. По прогнозам исследователей в области безопасности, если возможности моделей будут развиваться нынешними темпами, полностью автономная репликация может стать возможной к концу 2026 года.

В исследовании, опубликованном 12 октября, исследователи Anthropic Уильям Чжоу и Дэниел Фримен изучали, способны ли модели находить уязвимые устройства, получать возможность выполнять на них код, запускать собственные вычисления и продолжать распространение без участия человека. Они обнаружили, что модели с менее чем 30 млрд параметров уже могут выполнять многие отдельные этапы этого процесса, хотя им по-прежнему сложно последовательно пройти весь цикл самостоятельно.

Угроза для IoT

В кибербезопасности программы, которые копируют себя на другие компьютеры без участия пользователя, называют сетевыми червями. В отличие от традиционного вредоносного программного обеспечения, ИИ-червь потенциально сможет самостоятельно распознавать незнакомое оборудование, настраивать работу модели на нём и приспосабливаться к различным условиям.

Anthropic сосредоточилась на устройствах Интернета вещей (Internet of Things, IoT), в частности на бюджетных Android TV-приставках, умной бытовой технике, камерах наблюдения и других подключенных к сети гаджетах. Такие устройства могут быть привлекательными целями из-за относительно слабой защиты, а их совокупная вычислительная мощность потенциально позволяет запускать модели ИИ без дорогостоящих серверов.

Эксперимент с 15 устройствами

Чтобы проверить эту возможность, исследователи запустили модель Gemma4-26B-A4B от Google DeepMind, распределив её между 15 недорогими Android TV-приставками неизвестных брендов. Каждое устройство стоило примерно 55 долларов, а скорость совместной работы модели составляла 0,39 токена в секунду.

Этот эксперимент продемонстрировал, что бюджетные устройства можно объединить для запуска модели, которая не работает на одном из них в таком же виде. В то же время сам запуск модели на нескольких приставках не доказывает, что она способна автономно взламывать устройства и распространяться между ними.

Исследователи также проверяли, могут ли небольшие модели настраивать вычисления на незнакомом оборудовании. По результатам испытаний модель с 9 млрд параметров смогла выполнять инференс — генерировать ответы на основе обучения — на восьми из девяти протестированных типов аппаратного обеспечения.

Как работает распространение и почему сеть трудно нейтрализовать

В исследовании процесс репликации разделили на четыре этапа:

• поиск потенциальных целей;

• получение возможности выполнять код;

• настройка инференса;

• продолжение распространения с нового устройства.

Anthropic уделила особое внимание третьему этапу, поскольку предыдущие исследования уже показывали, что небольшие модели при наличии соответствующих инструментов могут выполнять отдельные операции, необходимые для кибератак.

В упрощённых тестах, в которых исследователи сняли часть защитных ограничений, китайская модель GLM-5.2 и более мощные модели смогли выполнить полный цикл репликации. По прогнозу Anthropic, если темпы совершенствования небольших моделей сохранятся, они могут обрести такие возможности к концу 2026 года, а вскоре могут появиться компактные репликаторы, которые будут использовать веса моделей для работы на новых устройствах.

Веса модели — это числовые параметры, определяющие её работу. В сценарии, который исследует Anthropic, они фактически становятся частью вредоносного программного обеспечения: после получения доступа к новому устройству система копирует или загружает необходимые данные, запускает модель и использует её для дальнейшего распространения.

Исследователи описали и другие возможные сценарии. В частности, более крупные модели могли бы пытаться получить доступ к вычислительным ресурсам дата-центров, тогда как системы с открытыми весами могли бы распространяться без внешнего контроля; ещё один вариант предполагает похищение учётных данных для доступа к API, через который запускается модель.

В будущем такие атаки могут использовать несколько моделей и различные типы оборудования одновременно. Например, одни компоненты роя будут искать уязвимые устройства, другие — обеспечивать запуск модели, а третьи — продолжать распространение по сети.

Остановить подобную систему может быть сложнее, чем обычную централизованную программу, поскольку у неё не обязательно будет единственная точка отключения. Anthropic также предупреждает, что распространение может происходить медленно — с удвоением количества зараженных устройств в течение нескольких дней, — но охватывать различные типы оборудования, в частности вычислительные системы дата-центров. В итоге компания подчеркивает необходимость усилить защиту подключенных к интернету устройств, чтобы затруднить их использование для запуска и распространения автономных агентов.

В прошлом месяце Anthropic впервые обнародовала внутренние показатели автоматизации, согласно которым модель Claude самостоятельно выполняет основную часть работы уже в 26% задач по исследованию и созданию будущих поколений искусственного интеллекта против всего 1% в марте. Исследовательский процесс обеспечивает флот из 30 тысяч ИИ-агентов, действия которых ежемесячно фильтрует двухуровневая система мониторинга, способная автоматически блокировать опасные операции, такие как попытки похищения весов моделей.

В то же время издание The Economist назвало «точкой невозврата» момент, когда ИИ обретёт способность к рекурсивному самосовершенствованию — самостоятельному проектированию более совершенных следующих поколений моделей без участия человека. Несмотря на то, что отдельные системы уже генерируют более 80 % кода и успешно оптимизируют собственные алгоритмы обучения, полная автономия технологии пока сдерживается дефицитом вычислительных мощностей дата-центров и нехваткой качественных данных за пределами сфер программирования и математики.