Фон дер Ляєн попередила про небезпеку надто швидкого розвитку ШІ

Президентка Європейської комісії Урсула фон дер Ляєн закликала сповільнити темпи розвитку найбільш передових моделей штучного інтелекту.

Про це вона заявила 16 вересня під час щорічного звернення до Європейського парламенту про стан ЄС, передає EuroNews.

За словами фон дер Ляєн, ШІ має значний потенціал для суспільства, однак зі зростанням можливостей найпотужніших моделей посилюються і пов'язані з ними ризики. Вона попередила, що системи нового покоління можуть дозволити здійснювати кібератаки на рівні, який раніше здавався неможливим.

Окремо президентка Єврокомісії звернула увагу на моделі, здатні до самовдосконалення. Вона зазначила, що керівники провідних ШІ-компаній уже говорять про необхідність сповільнити їхній розвиток.

"Якщо розробники цієї технології чітко це усвідомлюють, то маємо усвідомлювати й ми", – заявила фон дер Ляєн.

Єврокомісія планує провести консультації з провідними лабораторіями ШІ щодо того, як державні органи можуть підтримати галузеві зусилля зі стримування темпів розвитку найбільш передових технологій.

Водночас ЄС хоче посилити міжнародну співпрацю у сфері безпеки штучного інтелекту. За словами фон дер Ляєн, Брюссель працюватиме з Канадою, Великою Британією та іншими партнерами над оцінюванням і верифікацією моделей, системами раннього попередження та безпекою ШІ.

Під час виступу вона також згадала випадки, коли ШІ-агенти під час тестування виходили за межі своїх середовищ і атакували інші системи. Як приклад фон дер Ляєн навела липневий інцидент, пов'язаний з OpenAI та платформою Hugging Face.

Заклик фон дер Ляєн пролунало на тлі дискусії всередині технологічної галузі щодо темпів розвитку передового ШІ.

Раніше генеральний директор Meta Марк Цукерберг не підтримав заклик керівника Anthropic Даріо Амодея до скоординованого сповільнення розвитку передового ШІ.