США лидируют в ИИ-гонке, но пренебрегают рисками новой технологии — WP

Вопрос безопасности искусственного интеллекта необходимо рассматривать как гонку со временем. Никто не знает, какие опасности может нести эта технология. Но к тому времени, когда США и Китай наконец-то всерьёз обсудят меры предосторожности и правила регулирования, может быть уже слишком поздно, чтобы предотвратить катастрофическую ситуацию, пишет в статье для WP обозреватель Дэвид Игнатиус.

Две сверхдержавы в сфере искусственного интеллекта получат возможность обсудить безопасность ИИ в следующем месяце, когда президент США Дональд Трамп и лидер Китая Си Цзиньпин встретятся в Шэньчжэне — это будет их третий саммит в этом году. Российский диктатор Владимир Путин также может посетить Шэньчжэнь, но его единственной задачей должно быть прекращение катастрофы, которую он уже вызвал в Украине, отмечает обозреватель.

Накануне встречи в Шэньчжэне у Соединенных Штатов нет четкой стратегии безопасности в сфере искусственного интеллекта. Америка лидирует в гонке ИИ благодаря передовым компаниям Anthropic и OpenAI. Но США значительно отстают от Китая в вопросе контроля над ИИ и ограничения вреда новой технологии, без замедления прогресса в её развитии.

Дисциплинированный подход Китая к искусственному интеллекту, по-видимому, возможен лишь в условиях однопартийной командной экономики. Си формулирует четкую национальную стратегию, а первый вице-премьер Госсовета Китая Дин Сюэсян координирует реализацию политики. В этом месяце Дин обсудил вопросы искусственного интеллекта с ведущими американскими советниками престижного Университета Цинхуа, в частности с бывшим генеральным директором Apple Тимом Куком. Министр государственной безопасности Китая Чэнь Исинь опубликовал подробное разъяснение об угрозах и возможностях ИИ для национальной безопасности.

Похоже, в Китае не так много пессимистов в отношении ИИ, как в США. Эксперты китайского правительства обеспокоены угрозами для государства, а не для человечества. Но они всё чаще говорят о рисках ИИ.

Новый китайский подход не заключается в противопоставлении безопасности ИИ и развития новой технологии, отмечает бывший аналитик правительства США по вопросам Китая Пол Триоло.

“Это попытка сделать безопасность совместимой, а зачастую и способствующей быстрому развитию всё более мощных систем, сохраняя при этом широкие полномочия вмешиваться, когда речь идёт о политических интересах или национальной безопасности”, — добавил он.

В США дебаты о безопасности ИИ носят гораздо более хаотичный характер. Лидеры в сфере ИИ — Дарио Амодеи из Anthropic и Сэм Альтман из OpenAI — призывают к замедлению темпов развития искусственного интеллекта, а также к введению определенного уровня государственного надзора и саморегулирования.

Трамп же говорит об ИИ так, будто это глобальный чемпионат по боевым искусствам. Министр финансов США Скотт Бессент повторяет позицию Трампа о том, что победа в сфере ИИ имеет решающее значение. Именно Бессент возглавляет американскую сторону в диалоге с Китаем по вопросам ИИ.

Подход администрации Трампа к безопасности ИИ похож на то, как она решала другие вопросы национальной безопасности. Президент США делает агрессивные громкие заявления, но реализация политики на нижних уровнях хаотична и нескоординирована, с минимальным межведомственным сопровождением. Государственный механизм, который должен был бы действовать через Совет национальной безопасности США, похоже, не работает. Технология, способная изменить мир не меньше, чем ядерное оружие, развивается без должного надзора.

Несколько месяцев назад казалось, что Трамп рассматривает возможность создания национального органа саморегулирования в сфере ИИ. В конце сентября он собрал руководителей ведущих технологических компаний, чтобы подписать добровольную декларацию о саморегулировании, которая содержала мало конкретных деталей.

Похоже, ключевым приоритетом Трампа является доминирование в области искусственного интеллекта, а также переименование этой технологии в “суперинтеллект”. В этом месяце Трамп назначил директора Национальной разведки Джея Клейтона, который имеет незначительный опыт в сфере ИИ, главой правительственных “Сил суперинтеллекта”. Все это было бы комично, если бы не было столь опасным.

Китай осознает суровую реальность: он участвует в ИИ-гонке и может проиграть.

Бывший эксперт по Китаю в Совете национальной безопасности США при президентстве Джо Байдена Джулиан Хевиртц объяснил в недавней статье, что Пекин всё чаще рассматривает ИИ как “технологию, в рамках которой победитель забирает всё, что может позволить американской мощи расти быстрее, чем конкуренты смогут догнать США, делая это преимущество постоянным”.

Амодеи в момент триумфа два года назад согласился, что доминирование США в сфере ИИ может создать “вечный 1991 год”. Он заявил, что если Америка сможет выиграть эту гонку, то демократии будут лидировать на мировой арене и обладать экономической и военной мощью, чтобы избежать завоевания со стороны автократий.

Сейчас опасности стали более очевидными как для главы компании Anthropic, так и для большинства других экспертов в области ИИ. Хотя скорость развития технологии имеет значение, не менее важен диалог о рисках.

Бывшая чиновница Агентства национальной безопасности США Энн Нойбергер, которая занималась вопросами ИИ в администрации Байдена, сказала, что хотя заключение крупного соглашения с Китаем по ИИ маловероятно, стороны могли бы прийти к соглашению по узким рекомендациям в области безопасности, чтобы избежать катастрофы, а также создать экспертный канал для обсуждения опасных инцидентов.

Бессент, по-видимому, стремился создать именно такой ограниченный механизм диалога, когда в сентябре встретился в Нью-Йорке с вице-премьером Госсовета Китая Хэ Лифэном. Но пока неизвестно, как именно США организуют механизм, о котором говорил Бессент. Такой механизм не будет базироваться в Министерстве финансов.

“Реальная цель встречи в Шэньчжэне — это не договор и даже не полностью функциональная горячая линия, а согласованный протокол, подкрепленный реальными внутренними институтами”, — считает аналитик Триоло.

Когда речь идет о больших проблемах, часто лучше всего начинать с небольших шагов. Так было с контролем над ядерным оружием в 1960-х и 1970-х годах, и так может быть сейчас с искусственным интеллектом. Но ядерное оружие не могло писать собственные инструкции, в отличие от ИИ, который, возможно, вскоре сможет это делать. Время уходит, отмечает обозреватель.

Накануне Bloomberg опубликовало исследование, в котором прогнозируется, что Китай имеет все шансы к 2030 году стать глобальным лидером в разработке больших языковых моделей, лежащих в основе технологии искусственного интеллекта. США и Китай движутся к совместному технологическому лидерству в области ИИ к 2030 году, но ни одна из стран, вероятно, не достигнет абсолютного превосходства. Американские компании могут сохранить незначительное преимущество в разработке передовых моделей ИИ, тогда как опыт Китая в оптимизации программного обеспечения гарантирует Пекину сильные позиции во внедрении искусственного интеллекта с меньшими затратами, говорится в отчете.

AP писало, чтоСША и Китай формируют собственные ИИ-альянсы, а другие страны пытаются воспользоваться преимуществами обоих лагерей и избежать проигрыша. CNN считает, что Пекин можетпривлечь на свою сторону больше стран в ИИ-гонке, ведь Китай предлагает более открытую экосистему, ориентированную на доступность и более низкую стоимость. Однако чем мощнее будут становиться китайские модели ИИ, тем меньше вероятность, что Пекин оставит их без ограничений, считают аналитики.

Алексей Костенко в статье“Цифровая империя Пекина: как Китай превращает искусственный интеллект в инструмент глобального влияния” рассказывал, какКитай привязывает страны к своей экосистеме ИИ.