ШІ може стати зброєю опонентів: глава Єврокомісії виступила за сповільнення розробки передових моделей

Президентка Європейської комісії Урсула фон дер Ляєн підтримала заклик генерального директора компанії Anthropic Даріо Амодея сповільнити темпи розробки найпотужніших моделей штучного інтелекту. Під час щорічної промови про стан Європейського Союзу вона заявила, що ЄС підтримуватиме галузеві ініціативи у сфері безпеки та поглибить співпрацю з Канадою, Великою Британією й іншими партнерами. За її словами, ШІ має великий потенціал для суспільства, однак розвиток передових моделей вимагає особливої уваги через нові ризики, передає EuroNews.

«У міру того як передові моделі стають потужнішими, ці ризики набувають дедалі більшої гостроти. Моделі, що зараз розробляються, уможливлять хакерські атаки такого рівня, який ми раніше вважали неможливим. І незабаром вони опиняться в руках супротивників, які бачать світ зовсім інакше, ніж ми», — заявила президентка Єврокомісії.

За словами фон дер Ляєн, керівники провідних компаній, які створюють передові моделі, самі говорять про необхідність сповільнити роботу над системами, здатними до самовдосконалення. Вона додала: «Якщо розробники цієї технології чітко це усвідомлюють, то маємо усвідомлювати й ми».

«Ми посилимо співпрацю з нашими партнерами-однодумцями, такими як Канада, Велика Британія та інші. Ми прагнемо об'єднати зусилля в питаннях оцінювання та верифікації моделей, систем раннього попередження, безпеки ШІ та багатьох інших сферах», — додала фон дер Ляєн та оголосила про намір розпочати консультації з провідними лабораторіями ШІ щодо того, як державні органи можуть підтримати зусилля галузі з регулювання темпів розвитку цієї технології.

Під час виступу Фон дер Ляєн також згадала інциденти, коли агенти ШІ під час тестування виходили за межі своїх середовищ і самостійно зламували інші системи. Зокрема, агенти ШІ OpenAI створили мережу для обміну вразливостями у внутрішньому менеджері пакетів компанії та скоординовано зламали платформу Hugging Face.

ЄС уже має один із наймасштабніших законів про штучний інтелект — AI Act, що вимагає чітко позначати реалістичні зображення, аудіо, відео та автоматично створені публічні тексти, поширюючись як на розробників технологій, так і на медіа, бізнес та інфлюенсерів у їхній професійній діяльності. Цей Закон надає Єврокомісії повноваження контролювати заходи зі зниження ризиків для найпотужніших моделей.

Водночас президентка Європейського центрального банку Крістін Лагард застерегла, що Європа ризикує потрапити в геополітичну залежність від США та Китаю, якщо не почне масово розбудовувати власні дата-центри та розробляти передові моделі ШІ. Очільниця ЄЦБ наголосила на катастрофічному відставанні континенту: наразі на Європу припадає лише 5% світових обчислювальних потужностей ШІ проти 75% у США, а дефіцит інфраструктури за десятиліття може зрости більш ніж ушестеро.