ИИ может стать оружием оппонентов: глава Еврокомиссии выступила за замедление разработки передовых моделей

Председатель Европейской комиссии Урсула фон дер Ляйен поддержала призыв генерального директора компании Anthropic Дарио Амодея замедлить темпы разработки самых мощных моделей искусственного интеллекта. Во время ежегодного выступления о положении дел в Европейском союзе она заявила, что ЕС будет поддерживать отраслевые инициативы в сфере безопасности и углубит сотрудничество с Канадой, Великобританией и другими партнерами. По её словам, ИИ имеет большой потенциал для общества, однако развитие передовых моделей требует особого внимания из-за новых рисков, передаёт EuroNews.

«По мере того как передовые модели становятся мощнее, эти риски приобретают все большую остроту. Разрабатываемые сейчас модели сделают возможными хакерские атаки такого уровня, который мы ранее считали невозможным. И вскоре они окажутся в руках противников, которые видят мир совсем иначе, чем мы», — заявила президент Еврокомиссии.

По словам фон дер Ляйен, руководители ведущих компаний, создающих передовые модели, сами говорят о необходимости замедлить работу над системами, способными к самосовершенствованию. Она добавила: «Если разработчики этой технологии чётко это осознают, то и мы должны это осознавать».

«Мы укрепим сотрудничество с нашими партнерами-единомышленниками, такими как Канада, Великобритания и другие. Мы стремимся объединить усилия в вопросах оценки и верификации моделей, систем раннего предупреждения, безопасности ИИ и многих других сферах», — добавила фон дер Ляйен и объявила о намерении начать консультации с ведущими лабораториями в области ИИ о том, как государственные органы могут поддержать усилия отрасли по регулированию темпов развития этой технологии.

Во время выступления фон дер Ляйен также упомянула инциденты, когда агенты ИИ в ходе тестирования выходили за пределы своих сред и самостоятельно взламывали другие системы. В частности, агенты ИИ OpenAI создали сеть для обмена уязвимостями во внутреннем пакетном менеджере компании и скоординированно взломали платформу Hugging Face.

У ЕС уже есть один из самых масштабных законов об искусственном интеллекте — AI Act, который требует четко обозначать реалистичные изображения, аудио, видео и автоматически созданные публичные тексты, распространяясь как на разработчиков технологий, так и на СМИ, бизнес и инфлюенсеров в их профессиональной деятельности. Этот закон наделяет Еврокомиссию полномочиями контролировать меры по снижению рисков для самых мощных моделей.

В то же время президент Европейского центрального банка Кристин Лагард предупредила, что Европа рискует попасть в геополитическую зависимость от США и Китая, если не начнет массово строить собственные дата-центры и разрабатывать передовые модели ИИ. Глава ЕЦБ подчеркнула катастрофическое отставание континента: в настоящее время на Европу приходится лишь 5% мировых вычислительных мощностей ИИ против 75% в США, а дефицит инфраструктуры за десятилетие может вырасти более чем в шесть раз.