ШИ может стать оружием: почему призывы притормозить технологии пугают США

Искусственный интеллект развивается настолько быстро, что вопрос его безопасности уже вышел за пределы технологической отрасли и стал частью глобального соперничества США и Китая. Одновременно с предупреждениями о потенциально опасных последствиях развития ИИ все громче раздаются призывы замедлить гонку по мощным моделям.

Об этом говорится в анализе The Economist.

Почему разработчики ИИ хотят притормозить

В последнее время все большее число представителей технологической индустрии предупреждают: развитие ИИ может выйти из-под контроля , если мощность систем будет расти быстрее, чем возможности людей их контролировать.

Речь идет не только об уже известных рисках — дезинформации, потере рабочих мест или злоупотреблении технологиями. Некоторые специалисты опасаются появления систем, которые смогут самостоятельно совершенствовать собственные возможности и действовать с меньшим участием человека.

Именно поэтому часть руководителей и исследователей ИИ выступает за временное замедление гонки. Они настаивают на дополнительных проверках, независимом аудите мощных моделей и правилах, позволяющих оценить риски еще до того, как новые системы получат широкое применение.

США не хотят уступать Китаю

Для Вашингтона проблема состоит в том, что любое замедление может иметь не только технологические, но и последствия.

США и Китай рассматривают искусственный интеллект как важную составляющую будущего экономического и военного превосходства. Поэтому для американских властей вопрос звучит не просто как "насколько безопасным должно быть ИИ", но и как "кто получит преимущество, если одна страна притормозит, а другая продолжит разработки".

Как отмечает Reuters, конкуренция в сфере ИИ уже стала одним из важных вопросов в отношениях Вашингтона и Пекина: страны спорят из-за доступа к передовым чипам, технологиям и правилам регулирования отрасли, в то же время разрыв между их мощными моделями сокращается.

Для США это создает своеобразную ловушку. Ужесточение правил может уменьшить риски, но в то же время способно замедлить развитие американских компаний. Отсутствие ограничений, напротив, позволяет быстрее двигаться вперед, но увеличивает потенциальные последствия ошибок или злоупотреблений.

Возможны ли договоренности между США и Китаем

Отдельная проблема – военное использование искусственного интеллекта . Если автономная система получит возможность влиять на кибероперации, военные решения или критическую инфраструктуру, ошибка алгоритма может быть воспринята другой стороной как преднамеренная атака.

В такой ситуации особенно опасным становится сокращение времени на принятие решений. Людям может остаться всего несколько минут, чтобы понять, произошла ли техническая ошибка, или началась атака.

Именно поэтому эксперты из обеих стран говорят о необходимости хотя бы минимальных предохранителей: сохранение человеческого контроля над самыми опасными решениями, четкие правила военного использования ИИ и каналы связи на случай чрезвычайных ситуаций.

Гонка ИИ уже стала геополитической

Еще несколько лет назад соперничество вокруг искусственного интеллекта в основном касалось технологического лидерства и прибыли компаний. Теперь оно все больше связано с военной безопасностью, доступом к передовым полупроводникам и влиянием государств на развитие технологий.

Китай уже сокращает отставание от американских разработчиков, а отдельные представители индустрии считают, что в ближайшей перспективе страны могут оказаться практически на одном уровне в создании самых мощных моделей.

Поэтому дискуссия о том, нужно ли притормозить развитие ИИ, фактически превратилась в гораздо более сложный вопрос: как одновременно не допустить опасного технологического прорыва и не позволить конкуренту получить преимущество из-за того, что одна сторона решила действовать более осторожно.