ИИ едва не спровоцировал военную операцию США против Китая — CNN

Этой весной американские военные готовились к перехвату китайского судна на Ближнем Востоке после получения разведывательного отчета о якобы перевозке компонентов для ядерной программы. Однако перед началом операции чиновники выяснили, что документ был создан с помощью искусственного интеллекта и содержал ложный вывод. Об этом сообщает CNN со ссылкой на четыре источника, осведомленные об инциденте.

По информации источников CNN, после получения отчета военные начали разрабатывать план перехвата судна. Двое собеседников СМИ утверждают, что американские военнослужащие уже готовились к высадке на борт, а военные самолеты находились в воздухе.

Лишь непосредственно перед операцией документ проверили повторно. Тогда выяснилось, что аналитик Командования специальных операций воспользовался чат-ботом с ИИ, который ошибочно идентифицировал груз судна.

По словам одного из источников, отчет был «полностью ложным». Другой собеседник CNN заявил, что инцидент «едва не привел к войне», ведь любые действия США против китайского судна могли спровоцировать вооруженное противостояние между государствами.

Как произошла ошибка

По данным CNN, аналитик обратился к чат-боту с запросом о грузовой накладной судна, используя информацию, полученную от Командования специальных операций США в Тихоокеанском регионе. Журналистам не удалось установить, какую систему использовали для анализа — коммерческую или правительственную.

«Внутренние инструменты — это в основном те же коммерческие продукты, которым просто придали другой вид», — отметил бывший высокопоставленный чиновник США, знакомый с военными системами ИИ.

По информации источников, бот сопоставил данные из открытых источников (OSINT) с секретной информацией, полученной средствами радиоэлектронной разведки (SIGINT), после чего сделал неверный вывод о характере груза. Затем аналитик вновь использовал ИИ для оформления результатов в стандартный разведывательный отчет, который был распространен среди военного руководства.

Интеграция ИИ в военную сферу

Американские военные активно внедряют ИИ для анализа больших массивов разведывательной информации, определения целей, логистики и управления ресурсами. Чиновники объясняют ускорение этого процесса необходимостью не отставать от потенциальных соперников, прежде всего Китая.

В январе министр обороны США Пит Хэгсет представил «Стратегию ускорения внедрения искусственного интеллекта». Он заявил: «Мы дадим зеленый свет экспериментам, устраним бюрократические препятствия, сконцентрируем инвестиции и продемонстрируем подход к реализации, необходимый для обеспечения нашего лидерства в сфере военного ИИ». Документ предусматривает масштабное расширение доступа к моделям ИИ для примерно трех миллионов гражданских и военных сотрудников Министерства обороны США с различными уровнями доступа к секретной информации.

Весной Пентагон заключил соглашения с семью технологическими гигантами — Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection и SpaceX — — об интеграции инструментов ИИ в засекреченные военные сети. В список партнеров оборонного ведомства США тогда не вошла компания Anthropic из-за публичного конфликта с Белым домом, связанного с нежеланием разработчика снимать этические ограничения на использование моделей в автономном оружии и системах массовой слежки.

Отсутствие единых правил повышает риски

По словам американских чиновников, внедрение ИИ происходит децентрализованно. Различные подразделения используют разные системы, руководствуются отдельными инструкциями и стандартами безопасности, а единого механизма проверки информации, сгенерированной ИИ, пока не существует.

«Использование ИИ для определения целей — это активно развивающееся направление, однако пока нет четких инструкций относительно того, как именно участие человека в процессе принятия решений сможет предотвратить гибель гражданских лиц или случаи дружественного огня», — сообщил один из источников CNN.

По словам собеседников СМИ, подобные «галлюцинации» систем ИИ уже не являются редкостью в разведывательном сообществе после массового внедрения таких инструментов. Особое беспокойство вызывает то, что новые технологии сокращают время на подготовку разведывательных материалов и могут усиливать склонность младших аналитиков доверять результатам ИИ без достаточной критической проверки.

«ИИ позволяет быстрее прийти к ошибочному выводу», — подытожило один из источников CNN.

Между тем на форуме по безопасности «Сяншань» в Пекине делегаты из более чем 100 стран назвали стремительную милитаризацию и неконтролируемое развитие ИИ одной из ключевых угроз глобальному правопорядку. Представители оборонных ведомств и международных организаций подчеркнули, что алгоритмы размывают линии фронта, из-за чего сохранение контроля человека над применением оружия становится жизненно необходимым.

Ранее моделирование стратегических кризисов, проведенное профессором Королевского колледжа Лондона, показало, что конфликты с участием ведущих моделей ИИ — Claude Sonnet 4, GPT-5.2 и Gemini 3 Flash — почти неизбежно заканчиваются ядерной эскалацией. В 75 % смоделированных сценариев алгоритмы прибегали к применению тактического ядерного оружия, рассматривая его скорее как инструмент агрессивного захвата территорий, чем как средство сдерживания.