Новая опасность от ИИ: сломать искусственный интеллект и скормить ему фейк оказалось очень легко

То, о чем мы давно говорили, становится реальностью — поговорим о киберугрозах для ИИ и какие это несет нам опасности.

Теперь подробнее.

Агентство нацбезопасности США (NSA) вместе с разведками Великобритании, Австралии и Новой Зеландии впервые обнародовало публичный отчет о киберугрозах для ИИ.

Документ системно объясняет, как именно можно взломать или "отравить" искусственный интеллект. Главная уязвимость — отравление данных (data poisoning).

ИИ обучается на массивах открытой информации. Если туда намеренно подмешать фейковые или искаженные данные, модель начинает принимать ложные решения.

Кстати, о том, что российские пропагандисты так работают с ИИ, известно давно.

Не верите? Ну тогда сделайте эксперимент. Спросите у ИИ об обороне Бахмута. А потом сделайте запрос на русском языке об "асвабажении Артемовска"

Вы будете удивлены результатом.

Стоимость такой атаки — от $60 до $1000.

Доступно. Дешево. Эффективно.

Поэтому не удивляйтесь, если вам напишет ИИ, что вода кипит при 50 °C. Значит, кто-то ему дал такие данные.

А теперь представьте, что этот ИИ управляет дронами на поле боя или отвечает за промышленную безопасность. Одна неверная лента данных — и рой дронов может выйти из-под контроля именно во время атаки, или критическое предприятие выйдет из строя.

Вместо выводов.

ИИ — уже часть нашей жизни. Поэтому надо думать о его безопасности. А это не только об алгоритмах. Это о качестве данных, контроле доступа и встроенной устойчивости к манипуляциям.

Автор выражает личное мнение, которое может не совпадать с позицией редакции. Ответственность за опубликованные данные в рубрике "Мнения" несет автор.

Источник

Важно ИИ толкает мир к войне: как технологическая революция обостряет отношения между людьми и странами