Як штучний інтелект майже спровокував війну між США та Китаєм

На початку весни на Близькому Сході американські військові отримали тривожний розвідувальний звіт. У ньому йшлося про китайське судно, що, за твердженнями, транспортувало компоненти для ядерної програми. Інформація виглядала настільки достовірною, що негайно розпочалася підготовка до операції з його перехоплення. Військові літаки вже були в повітрі, а бійці готувалися до висадки на борт.

Аналітик Командування спеціальних операцій, який підготував цей звіт, звернувся по допомогу до чат-бота зі штучним інтелектом. Він використав дані з відкритих джерел разом із секретною інформацією, отриманою засобами радіоелектронної розвідки. Бот, об'єднавши ці масиви даних, помилково дійшов висновку про характер вантажу. Потім аналітик знову скористався ШІ, щоб оформити ці хибні висновки у стандартний розвідувальний документ, який і був поширений серед військового керівництва.

Лише безпосередньо перед запланованою операцією, коли напруга досягла піку, чиновники вирішили ще раз ретельно перевірити звіт. Тоді й виявилася фатальна помилка – документ був повністю хибним, а його зміст вигадано ШІ. Один зі співрозмовників CNN охарактеризував звіт як «повністю неправдивий» і підкреслив, що ситуація «ледь не розпочала війну».

Цей інцидент викликав серйозне занепокоєння, адже будь-яка військова операція США проти китайського судна могла б спровокувати збройне протистояння між двома ядерними державами. Подібні «галюцинації» систем ШІ вже не є рідкістю у розвідувальному співтоваристві, і цей випадок став тривожним сигналом про те, наскільки швидко технології можуть призвести до катастрофічних наслідків.

Експерти відзначають, що використання ШІ дозволяє швидше дійти хибного висновку, а швидкість підготовки розвідувальних матеріалів може посилювати схильність молодших аналітиків довіряти результатам без достатньої критичної перевірки.

Зараз американські військові активно впроваджують ШІ для аналізу розвідувальної інформації та інших завдань. У січні було презентовано «Стратегію прискорення впровадження штучного інтелекту», що передбачає розширення доступу до моделей ШІ для мільйонів цивільних і військових співробітників Міністерства війни США. Пентагон також уклав угоди з сімома технологічними гігантами щодо інтеграції інструментів ШІ в засекречені військові мережі.

Інтеграція ШІ у військову сферу відбувається децентралізовано, і наразі не існує єдиних правил та механізмів перевірки інформації, згенерованої штучним інтелектом. Це створює ризики, оскільки різні підрозділи використовують різні системи та стандарти безпеки.

На безпековому форумі «Сяншань» у Пекіні делегати зі 100 країн світу назвали стрімку мілітаризацію та неконтрольований розвиток ШІ ключовою загрозою глобальному правопорядку. Моделювання стратегічних криз, проведене професором Королівського коледжу Лондона, показало, що конфлікти за участю провідних моделей ШІ майже неминуче завершуються ядерною ескалацією. У 75% змодельованих сценаріїв алгоритми вдавалися до використання тактичної ядерної зброї.

Як повідомляє CNN, один зі співрозмовників медіа зазначив, що звіт був «повністю хибним», а інший додав, що інцидент «ледь не призвів до війни».

Колишній високопосадовець США, знайомий із військовими системами ШІ, зауважив: «Внутрішні інструменти — це здебільшого ті самі комерційні продукти, яким просто надали іншого вигляду».

Цей інцидент слугує суворим нагадуванням про критичну необхідність встановлення чітких етичних норм та протоколів безпеки у сфері штучного інтелекту, особливо коли йдеться про національну безпеку. Без належного людського контролю та верифікації, навіть найдосконаліші технології можуть призвести до непередбачуваних і руйнівних наслідків, ставлячи під загрозу мир у всьому світі.