Нова небезпека від ШІ: Зламати штучний інтелект і згодувати йому фейк виявилося дуже легко

Те, про що ми давно говорили, стає реальністю — поговоримо про кіберзагрози для АІ та які це несе нам небезпеки.

Тепер детальніше.

Агентство нацбезпеки США (NSA) разом із розвідками Великої Британії, Австралії та Нової Зеландії вперше оприлюднило публічний звіт про кіберзагрози для АІ.

Документ системно пояснює, як саме можна зламати або "отруїти" штучний інтелект. Головна вразливість — отруєння даних (data poisoning).

АІ навчається на масивах відкритої інформації. Якщо туди навмисно підмішати фейкові або викривлені дані, модель починає ухвалювати хибні рішення.

До речі, про те, що російські пропагандисти так працюють з АІ, відомо давно.

Не вірите? Ну тоді зробіть експеримент. Запитайте у ШІ про оборону Бахмута. А потім зробіть запит російською мовою про "асвабаждєние Артемовска".

Ви будете здивовані результатом.

Вартість такої атаки — від $60 до $1000.

Доступно. Дешево. Ефективно.

Тож не дивуйтесь, якщо вам напише АІ, що вода кипить при 50 °C. Значить, хтось йому дав такі дані.

А тепер уявіть, що цей ШІ керує дронами на полі бою або відповідає за промислову безпеку. Одна хибна стрічка даних — і рій дронів може вийти з-під контролю саме під час атаки, або критичне підприємство вийде з ладу.

Замість висновків.

АІ — вже частина нашого життя. Тому треба думати про його безпеку. А це не лише про алгоритми. Це про якість даних, контроль доступу і вбудовану стійкість до маніпуляцій.

Автор висловлює особисту думку, яка може не співпадати із позицією редакції. Відповідальність за опубліковані дані в рубриці "Думки" несе автор.

Джерело

Важливо ШІ штовхає світ до війни: як технологічна революція загострює відносини між людьми та країнами