ШІ-апокаліпсис на порозі?: експерти готуються — радять мати готівку, Starlink і генератори

Експерти у сфері штучного інтелекту закликають готуватися до сценаріїв апокаліпсису через зростання кількості кібератак. Автономні алгоритми вже здатні завдавати мільйонних збитків, ставлячи під удар фінансові системи та мережі.

Про це пише Futurism.

Потужні моделі штучного інтелекту дедалі частіше використовують для масштабних кібератак або залучають до їхнього проведення. Якщо індустрія ШІ не докладе спільних зусиль, щоб запобігти небезпечному використанню своїх продуктів, одна з таких атак зрештою може бути спрямована проти критично важливої інфраструктури.

Як підготуватися до кібератак із використанням ШІ

Деякі фахівці у сфері штучного інтелекту вже, схоже, готуються до подібного сценарію. Зокрема, гендиректор і співзасновник дослідницької компанії Elicit Андреас Штульмюллер оприлюднив рекомендації, які нагадують інструкції з підготовки до глобальної катастрофи. У них він описав, як варто підготуватися до можливих кібератак із використанням ШІ, здатних паралізувати фінансові системи, електромережі, Інтернет та іншу критичну інфраструктуру.

«Готівка: майте з собою готівку в обсязі, достатньому на кілька тижнів витрат», — порекомендував Штульмюллер у дописі в соцмережі.

Також він радить придбати термінал Starlink на випадок перебоїв у роботі місцевого Інтернету, мати батарею, генератор і сонячні панелі для забезпечення електроенергією, зробити запаси води та їжі на кілька тижнів, а також придбати аварійне радіо з ручним генератором.

ШІ-кібератака на холодильні системи завдала мільйонних збитків

Такі на перший погляд параноїдальні рекомендації з’явилися після масштабної кібератаки на холодильні системи, які використовують сотні продуктових магазинів у Франції. Невідомі зловмисники підвищили температуру в холодильниках до близько 50 градусів за Цельсієм. Через це продукти зіпсувалися, а в окремих випадках навіть спалахнули пожежі.

Гендиректор мережі Intermarche, яка стала однією з цілей атаки, заявив, що за один день інцидент завдав «десятки мільйонів євро збитків по всій країні».

Водночас безпосередню роль штучного інтелекту в цій атаці наразі не підтверджено. Проте з огляду на широке використання ШІ під час програмування не виключено, що технологію могли застосовувати на певному етапі. Крім того, сучасні моделі дедалі краще пораються з пошуком програмних вразливостей.

Кількість кібератак із використанням ШІ зросла на 90%

Згідно з нещодавнім звітом CrowdStrike, протягом року кількість кібератак із використанням ШІ збільшилася майже на 90%.

Окремо стало відомо про інциденти, пов’язані з провідними розробниками штучного інтелекту — OpenAI, Anthropic і Meta. Їхні агентні системи виходили за межі тестових середовищ та здійснювали кібератаки на вебсайти та комп’ютерні системи інших компаній.

На думку експертів, подібні випадки демонструють небезпечне посилення загроз для кібербезпеки, пов’язаних із розвитком ШІ. Тепер технологія не лише може допомагати людям здійснювати хакерські атаки, а й здатна виконувати їх автономно, у деяких випадках уникаючи виявлення людьми, які здійснюють нагляд.

Водночас говорити про неминучий перехід від атак на вебсайти чи холодильні системи супермаркетів до масштабних ударів по електромережах або банківській інфраструктурі наразі було б перебільшенням. Однак потенційні наслідки такого сценарію змушують фахівців уже зараз замислюватися над підготовкою до нього. У разі настільки масштабних ризиків обережність може виявитися не безпідставною.