Запрет на самосовершенствование ИИ может ослабить США — экономист Тайлер Коуэн

Американский экономист Тайлер Коуэн подверг критике идею запрета механизмов рекурсивного самосовершенствования (RSI) моделей искусственного интеллекта. По его мнению, такую политику будет практически невозможно реализовать на практике, а ее следствием может стать потеря конкурентоспособности американских компаний.

Коуэн отреагировал на предложения ограничить RSI — способность одних моделей ИИ использовать собственные результаты для ускорения развития других моделей, — о чем, в частности, пишет журналист Эзра Кляйн. Автор утверждает, что даже если отложить вопрос о потере инноваций, остается нерешенным главное: как именно контролировать использование таких технологий в мире, где существуют иностранные сервисы, открытые модели и транснациональные корпорации.

Экономист задает ряд практических вопросов: придется ли блокировать американцам доступ к зарубежным сайтам с ИИ, запрещать хранение открытых моделей на личных компьютерах или проверять историю создания моделей. По его мнению, сложно также представить, как будет работать запрет, если компании перенесут разработку в зарубежные дочерние структуры или если ведущие модели станут доступны только за пределами США.

Коуэн считает, что отказ американских лабораторий от RSI создаст преимущество для конкурентов, которые продолжат инвестировать в вычислительные мощности и развитие моделей. Он также обращает внимание на противоречие между возможностью обычных компаний использовать ИИ для написания кода и потенциальным запретом таких подходов для ведущих разработчиков моделей.

Автор также сомневается, что существует понятный механизм, который позволил бы временно приостановить развитие RSI, а затем безопасно его возобновить. По его мнению, если ведущие лаборатории перестанут работать с такими системами, им будет сложнее оценить их реальные риски и уровень безопасности.

Подводя итог, Коуэн называет идею запрета RSI «нежизнеспособной» и считает её примером политики, которая звучит убедительно, но не учитывает практических последствий. Он утверждает, что после уже принятых решений в сфере развития ИИ странам придётся работать над тем, чтобы пройти этот этап «более или менее правильно», а не рассчитывать на простые запреты.

«Чем дольше мы будем отрицать эту истину, тем тяжелее будет всем нам», — заявил Коуэн.

Предостережения экономиста об опасности искусственного торможения инноваций перекликаются с текущей политикой Вашингтона, направленной на снятие барьеров перед разработчиками. В частности, президент США Дональд Трамп объявил о планах создать отдельные «ИИ-силы» по образцу Космических сил и назначить куратора отрасли — «ИИ-царя», категорически отвергнув идею государственного регулирования технологии. Глава Белого дома назвал опасения по поводу неконтролируемого развития ИИ «мистификацией» и подчеркнул, что США не будут сдерживать собственные компании в условиях жесткого соперничества с Китаем.

В то же время этот подход прямо противоречит позиции руководителей ведущих американских ИИ-лабораторий, в частности Anthropic, OpenAI и xAI. Они публично призвали к скоординированному замедлению развития отрасли для внедрения стандартов безопасности.