Дослідники Anthropic попереджають про наближення самореплікації ШІ на недорогих пристроях

Спеціалісти підрозділу Frontier Red Team у компанії Anthropic Вільям Чжоу та Деніел Фріман заявили, що для самостійного поширення сучасним моделям не обов'язково мати доступ до потужних центрів обробки даних із дорогими прискорювачами.

За їхніми розрахунками, вже за кілька місяців невеликі мовні моделі зможуть автоматично розгортатися та адаптуватися на дешевих пристроях інтернету речей (IoT).

Автономна реплікація та адаптація (ARA) передбачає, що алгоритм самостійно поширює копії без участі людини — від сканування мережі до перенесення вагів на цільове обладнання. У ході експериментів дослідники задіяли недорогі Android TV-бокси, розподіливши велику модель між кількома приставками за принципом конвеєрного паралелізму. Виявилося, що малі відкриті моделі на зразок Qwen3.5-9B після кількох поколінь значно краще справляються з налаштуванням середовища на незнайомому залізі.

Експерти зазначають, що такі автономні мережі нагадуватимуть «слизову цвіль» — повільну, але надзвичайно живучу, оскільки у них відсутній єдиний центр керування, який можна відключити. Для захисту від подібних загроз фахівці радять посилювати моніторинг мережевого трафіку провайдерами та оновлювати вимоги до безпеки «розумних» пристроїв.