Ізраїль використовував штучний інтелект для визначення цілей атак в Газі – ЗМІ

Ізраїльські військові використовували штучний інтелект для допомоги у виборі цілей бомбардування в Газі. Це, потенційно, могло призвести до погіршення точності ударів та вбивства багатьох мирних жителів. Про це йдеться в публікаціях +972 Magazine та Local Call.

Система під назвою Lavender була розроблена після терактів ХАМАС 7 жовтня. На піку свого розвитку Lavender позначила 37 тис. палестинців у Газі як підозрюваних «бойовиків ХАМАС» і «санкціонувала» їх убивства.

Збройні сили Ізраїлю спростували існування такого списку вбивств. Речник повідомив, що штучний інтелект не використовувався для ідентифікації підозрюваних терористів, але не заперечував існування системи Lavender, яку представник назвав «просто інструментами для аналітиків у процесі ідентифікації цілей». Аналітики «повинні провести незалежні експертизи, під час яких вони перевірять, що ідентифіковані цілі відповідають відповідним визначенням згідно з міжнародним правом і додатковим обмеженням, передбаченим у директивах IDF», — сказав речник.

Проте офіцери ізраїльської розвідки розповіли в інтерв’ю виданням +972 і Local Call, що вони не були зобов’язані проводити незалежні перевірки цілей Lavender перед їх бомбардуванням, а замість цього фактично служили «гумовим штампом» для «рішень машини». У деяких випадках єдиною роллю офіцерів у процесі було визначення того, чи є ціль чоловіком.

Щоб створити систему Lavender, в набір даних була введена інформація про відомих оперативників ХАМАСу та Палестинського ісламського джихаду. Крім того, для тренування Lavender також використовувалися дані про людей, тісно пов’язаних з ХАМАС, таких як співробітники Міністерства внутрішньої безпеки Гази.

Lavender навчили визначати «особливості», пов’язані з оперативниками ХАМАС, зокрема перебування в групі WhatsApp із відомим бойовиком, зміну мобільного телефону кожні кілька місяців або часту зміну адреси. Потім ці дані були використані для оцінки інших палестинців у Газі за шкалою від 1 до 100 на основі того, наскільки вони схожі на відомих бойовиків ХАМАС у початковому наборі даних. Людей, які досягли певного порогу, потім позначали як цілі для ударів. Цей поріг постійно змінювався, «оскільки це залежить від того, де ви встановлюєте планку того, хто є оперативником ХАМАС», – повідомило  одне військове джерело.

За словами джерел, система мала рівень точності 90%. Деякі з людей, яких Lavender позначила як мішені, мали імена чи прізвиська, ідентичні іменам і прізвиськам відомих бойовиків ХАМАС. Інші були родичами оперативників ХАМАС або людьми, які користувалися телефонами, які колись належали бойовикам ХАМАС.

За словами обізнаних джерел, офіцерам розвідки надавали широкі повноваження, коли йшлося про жертви серед цивільного населення. При цьому припускалися можливі супутні жертви серед цивільних: 15-20 осіб при націлюванні на оперативників ХАМАС нижчого рівня та «сотні» ─ для вищих посадових осіб ХАМАС.

Підозрювані бойовики ХАМАС також ставали мішенями в їхніх будинках, що визначала система Where’s Daddy?. За словами офіцерів, ця система ставила цілі, визначені Lavender, під постійне спостереження. Їх відстежували, доки вони не досягли своїх домівок, і тоді по ним завдавали бомбовий удар, часто разом з усіма їхніми родинами. Однак інколи офіцери бомбили будинки, не перевіряючи, чи є цілі всередині, знищуючи при цьому мирних жителів.

Додатково повідомляється, що система Lavender є розширенням використання Ізраїлем технологій стеження за палестинцями як у Секторі Газа, так і на Західному березі.

Джерело: The Verge