США та Росія послабили контроль над летальною автономною зброєю зі ШІ

На початку вересня у Женеві зібралися сотні дипломатів, щоб створити першу міжнародну угоду щодо летальної автономної зброї зі штучним інтелектом. Засідання проходило без камер ООН та спостерігачів від громадянського суспільства.

Проте в останній день цих переговорів, що тривали близько 15 годин, делегації США та Росії домоглися вилучення низки ключових положень з проєкту договору. За даними джерел, кожна з цих делегацій мала приблизно по 10 юристів, що удвічі перевищувало представництво багатьох інших країн, дозволяючи їм вносити правки зі значною швидкістю.

Серед вилучених норм – вимоги до систем ШІ діяти «передбачувано» та «надійно», пункт про обов'язкове врахування етичних міркувань, а також ключова норма, яка зобов'язувала людину перевіряти воєнні цілі, визначені штучним інтелектом, перед завданням удару.

Ці зміни, за словами одного з джерел, стали «смертю від тисячі паперових порізів» для амбітного документа, який мав встановити жорсткі обмеження для автономної зброї. Тепер переговори носять рекомендаційний характер і лише в листопаді делегації знову зберуться в Женеві для вирішення подальшої долі документа.

Паралельно, Пентагон переглядає власну директиву щодо автономної зброї від 2023 року. У червні було доручено оновити її протягом 90 днів, проте станом на кінець вересня новий варіант документа ще не був оприлюднений.

Послаблення документа свідчить про намагання Вашингтона і Москви зменшити жорсткість глобальних правил, у той час як Пентагон активно інтегрує штучний інтелект у військову стратегію. Це відбувається на тлі гострої дискусії про ризики передового ШІ, де керівники технологічних компаній закликають до міжнародної співпраці та регулювання.

Застосування ШІ в бойових діях вже давно вийшло за межі теорії. За даними, американські військові використовували чат-бота Anthropic для визначення близько тисячі цілей у перші 24 години війни з Іраном, а Ізраїль активно застосовує штучний інтелект у Газі. Зловмисники з Ємену та Ірану використовували чат-ботів для розробки керованої зброї, а на фронті в Україні обидві сторони дедалі активніше покладаються на автономні системи ураження цілей.

Глобальні договори здатні реально впливати на застосування зброї, як це вже відбулося з хімічною, біологічною зброєю та протипіхотними мінами. Однак, попри це, США та Росія, на думку експертів, не підтримують юридично обов'язкові правила та мають непропорційний вплив на перебіг перемовин, що було помічено під час обговорень у Женеві, про що повідомляє The Washington Post.

Заступниця директора відділу озброєнь Human Rights Watch Веріті Койл зазначила, що слабкі правила щодо автономної зброї можуть мати відчутні наслідки: «Це може означати, що машини можуть ухвалювати рішення про життя і смерть без контролю людини». Вона додала, що практичний ефект полягатиме у збільшенні кількості жертв серед цивільного населення та зменшенні відповідальності.

Виконавча директорка коаліції Stop Killer Robots Ніколь ван Рооєн зауважила, що США та Росія не підтримують юридично обов'язкові правила й мають непропорційний вплив на перебіг перемовин.

Такий розвиток подій викликає занепокоєння щодо майбутнього конфліктів, адже передача ШІ вирішальних функцій без людського контролю може призвести до непередбачуваних наслідків, роблячи війну більш автоматизованою та менш відповідальною.