Ложный отчет ИИ едва не спровоцировал войну США с Китаем

В разгар конфликта с Ираном, среди высшего руководства США начал распространяться отчет, составленный аналитиком командования специальных операций. Документ содержал тревожную информацию: китайское судно, находившееся на Ближнем Востоке, якобы перевозило компоненты для ядерного оружия.

На основании этого отчета, который казался достоверным, военные немедленно начали разработку плана перехвата. Четверо осведомленных источников подтвердили, что американские бойцы готовились к штурму судна, а военные самолеты уже были подняты в воздух. Операция была спланирована, и ее начало казалось неизбежным.

Однако, непосредственно перед запланированным штурмом, должностные лица решили провести более тщательную проверку отчета. Именно тогда выяснилось, что документ был полностью сгенерирован искусственным интеллектом. Чат-бот, который использовал аналитик, ошибочно идентифицировал груз судна, что могло привести к фатальной ошибке.

Как сообщил один из источников, отчет был «полностью ложным», но в то же время «едва не начал войну». Этот инцидент ярко продемонстрировал, насколько опасным может быть использование ИИ без надлежащей проверки данных, особенно в вопросах, касающихся национальной безопасности и международных отношений.

Ошибка была критической, ведь любая операция США против китайского судна, основанная на ложных данных, могла спровоцировать вооруженный конфликт между двумя ядерными державами. Не удалось выяснить, что именно было ошибочно идентифицировано как компоненты для ядерного оружия.

Последствия этого инцидента выявили серьезные риски интеграции ИИ в военную разведку. Проблема с китайским кораблем, по словам источников, была не единственным подобным случаем, поскольку «искусственный интеллект позволяет быстрее прийти к неудачной идее».

Пентагон активно внедряет искусственный интеллект почти во все аспекты своей деятельности, от анализа разведывательной информации и выбора целей до логистики и управления бюджетом. Целью является ускорение принятия решений на поле боя, что, по мнению официальных лиц, критически важно, чтобы не отставать от таких противников, как Китай. В январе министр обороны Пит Хегсет представил «Стратегию ускорения развития искусственного интеллекта», которая имеет целью «демократизацию экспериментов и преобразований в сфере ИИ» путем предоставления передовых моделей трем миллионам сотрудников.

В то же время в вооруженных силах и разведывательном сообществе США отсутствует единый набор стандартов для проверки информации, сгенерированной ИИ. Различные подразделения используют различные инструменты с различными распоряжениями и стандартами безопасности, что приводит к значительным различиям в надежности и функциональности систем. Этот инцидент подчеркивает самую прозаическую опасность: принятие людьми катастрофических решений на основе неточной или обманчивой информации, генерируемой ИИ, о чем пишет CNN.

«Мы дадим волю экспериментам, устраним бюрократические преграды, сосредоточим наши инвестиции и продемонстрируем подход к реализации, необходимый для обеспечения нашего лидерства в сфере военного ИИ», — заявил министр обороны Пит Хегсет.

«Внутренние инструменты — это по большей части просто украшенные копии коммерческих программ», — рассказал бывший высокопоставленный американский чиновник, осведомленный с системами искусственного интеллекта, которые используют военные и разведывательные аналитики.

Инцидент с китайским судном служит суровым напоминанием о том, что, несмотря на весь свой потенциал, искусственный интеллект требует тщательной проверки и контроля со стороны человека. Ведь именно от нашей способности управлять этой технологией зависит не только эффективность военных операций, но и мир во всем мире.