ШІ може навчитися самостійно поширюватися між гаджетами: в Anthropic назвали можливий термін

Моделі штучного інтелекту в перспективі можуть отримати достатньо можливостей, щоб самостійно копіювати себе та поширюватися через підключені до інтернету пристрої. В Anthropic припускають, що за нинішніх темпів розвитку окремі компоненти такого сценарію можуть об’єднатися вже до кінця 2026 року, однак поки йдеться лише про прогноз.

Про це пише Anthropic.

Йдеться про автономних ШІ-агентів, які теоретично могли б знаходити вразливості у комп’ютерах, телевізорах, роутерах та розумній побутовій техніці. Компактні моделі вже здатні виконувати частину окремих завдань, необхідних для такого процесу, але наразі не можуть самостійно об’єднати їх у стабільний цикл поширення.

Найбільше занепокоєння викликає можливість створення децентралізованої мережі заражених пристроїв. У такому сценарії ШІ міг би використовувати обчислювальні ресурси великої кількості гаджетів замість одного централізованого дата-центру.

Теоретично така мережа могла б використовуватися для кібератак, розповсюдження шкідливого програмного забезпечення або несанкціонованого доступу до інших систем. Просунуті ШІ-агенти відрізняються від звичайних вірусів тим, що потенційно можуть аналізувати незнайоме середовище та самостійно шукати способи взаємодії з ним.

Це ускладнило б і боротьбу з подібною загрозою. Якщо мережа охопить велику кількість пристроїв, відключення одного центрального сервера може виявитися недостатнім для припинення її роботи.

Водночас в Anthropic наголошують, що йдеться про гіпотетичний сценарій, а не про вже створену систему, здатну масово захоплювати побутову техніку. Прогноз описує потенційний розвиток можливостей ШІ за умови збереження нинішніх темпів технологічного прогресу.

Для зменшення ризиків користувачам радять регулярно оновлювати програмне забезпечення телевізорів, роутерів, комп’ютерів та розумних пристроїв. Оновлення часто закривають відомі вразливості, які можуть використовуватися для несанкціонованого доступу.

Також варто використовувати унікальні складні паролі, двофакторну автентифікацію та відключати від мережі пристрої, якими не користуються. Особливу увагу рекомендують приділяти старим гаджетам, які більше не отримують оновлень безпеки.