ИИ угрожает безопасности Китая: спецслужбы КНР предупредили о рисках

Китай обнародовал одно из самых подробных предупреждений о рисках искусственного интеллекта, назвав его потенциальной угрозой для политической стабильности и критически важной инфраструктуры страны. Почти одновременно генеральный директор американской компании Anthropic Дарио Амодей призвал замедлить развитие передовых моделей ИИ, подчеркнув, что их возможности опережают меры безопасности, пишет Bloomberg.

В статье, опубликованной в официальном журнале China Cyberspace, министр государственной безопасности КНР Чэнь Исинь заявил, что «злонамеренное использование ИИ противниками может представлять прямую угрозу политической, институциональной и идеологической безопасности Китая». По его словам, современные системы ИИ всё лучше находят уязвимости в компьютерных системах и помогают создавать вредоносное программное обеспечение для их использования.

Одним из главных рисков Чэнь Исинь назвал возможность того, что «враждебные силы» будут использовать ИИ для ведения «войн за общественное мнение» и «когнитивных войн». По его словам, дипфейки, автоматически сгенерированные тексты, изображения и боты в социальных сетях могут распространять политические слухи, дезинформацию и усугублять общественные конфликты. Такие инструменты, по мнению китайского чиновника, способны влиять на общественное мнение и подрывать стабильность государства.

Отдельно Чэнь Исинь обратил внимание на риски для разведки и кибербезопасности. Он отметил, что поисковые боты, системы анализа больших массивов данных и технологии профилирования на базе ИИ могут помочь иностранным спецслужбам собирать государственные данные, коммерческие тайны и личную информацию.

Министр также предупредил о международной конкуренции в сфере ИИ. По его мнению, государства, которые получат преимущество в этой области, могут прикрываться соображениями национальной безопасности, чтобы устанавливать технологический контроль, монополизировать стандарты и развивать закрытые экосистемы.

Это одно из самых четких публичных заявлений Пекина о том, как страна оценивает риски развития ИИ. Оно появилось на фоне призывов руководителей американских технологических компаний действовать осторожнее, хотя в материале не упоминаются заявления Anthropic или OpenAI о необходимости замедлить гонку по созданию новых моделей.

Накануне Дарио Амодей в своём блоге заявил, что развитие ИИ происходит быстрее, чем создаются механизмы его безопасного использования. Он предложил усилить координацию между компаниями, правительством США и другими демократическими странами.

Между тем лидер Китая Си Цзиньпин на саммите БРИКС предложил создать «сообщество» ИИ с открытым кодом. Пекин призвал страны блока объединить усилия в разработке крупных языковых моделей и присоединиться к созданной КНР Всемирной организации сотрудничества в сфере ИИ. Таким образом Китай пытается расширить своё геополитическое влияние на глобальные стандарты регулирования технологий и предложить развивающимся странам более дешёвую альтернативу западным разработкам.