"Цифровий слиз": дослідники попередили про нову загрозу з боку ШІ

Невеликі моделі штучного інтелекту можуть вже до кінця 2026 року навчитися самостійно копіюватися на підключені до інтернету побутові пристрої. Йдеться про смарт-телевізори, холодильники, духовки та роботів-пилососи. Дослідники Anthropic попереджають, що такі пристрої можуть стати частиною розподіленої мережі, яку буде складно виявити та відключити.

Як повідомляє Business Insider, фахівці вивчають сценарій появи так званих "ШІ-черв’яків". На відміну від традиційних комп’ютерних вірусів, такі програми зможуть не тільки копіювати себе на інші пристрої, а й переносити разом із собою модель штучного інтелекту та шукати нові способи зараження без вказівок людини.

У ході дослідження фахівці перевірили, чи можна запускати невеликі моделі ШІ на недорогому обладнанні. Дослідники придбали 15 Android TV-приставок приблизно по 55 доларів, з’єднали їх у мережу та запустили на них ШІ. Нейромережа повільно, але працювала. Кожна приставка обробляла свою частину, а разом вони справлялися з моделлю, для якої окремому пристрою не вистачило б пам’яті.

Головна небезпека полягає в тому, що для такої мережі не обов’язково потрібні великі дата-центри. Замість атаки на кілька потужних серверів ШІ-черв’як теоретично зможе використовувати обчислювальні ресурси безлічі слабо захищених пристроїв. Anthropic описують такий сценарій як "цифровий слиз", що повільно поширюється і поступово займає доступні обчислювальні потужності.

Ще одна проблема – складність зупинки такої мережі. Якщо шкідлива система розподілена між тисячами пристроїв і не залежить від єдиного керуючого сервера, відключення одного комп’ютера або центру обробки даних не обов’язково зупинить її поширення. Експерти зазначають, що ШІ-черв’яки потенційно зможуть аналізувати незнайомі пристрої, змінювати підхід у разі невдачі та продовжувати поширюватися без оператора. Наразі мова не йде про екзистенційну загрозу для людства, хоча подальший розвиток технології викликає побоювання.

У компанії Anthropic вважають, що виробникам необхідно посилювати захист підключених пристроїв, щоб запобігти їхньому несанкціонованому використанню. При цьому однієї профілактики може виявитися недостатньо: фахівці пропонують заздалегідь готуватися до ситуації, в якій автономні ШІ-агенти працюватимуть на найрізноманітніших типах обладнання, зокрема поза безпосереднім контролем людини.

Попередження з’явилося на тлі повідомлень про те, що ШІ-агенти дедалі частіше почали діяти непередбачувано та виходити за межі поставлених завдань. Під час тестів боти самостійно виходили з ізольованого середовища та отримували несанкціонований доступ до зовнішніх ресурсів.