Глава Єврокомісії закликала сповільнити розвиток ШІ через ризики для безпеки

Президентка Європейської комісії Урсула фон дер Ляєн у середу, 16 вересня, підтримала заклики провідних американських AI-лабораторій призупинити розвиток технології штучного інтелекту. Вона зробила цю заяву під час щорічного виступу в Європарламенті у Страсбурзі на тлі дедалі більшого занепокоєння потенційною небезпекою ШІ. Її позиція розходиться з підходом президента США Дональда Трампа, який раніше відкидав побоювання щодо безпеки ШІ. Про це пише Reuters.

- У міру того, як передові моделі стають дедалі потужнішими, ці ризики проявляються все чіткіше. Моделі, які зараз розробляють, дадуть змогу здійснювати хакерські атаки на рівні, який ми раніше навіть не могли уявити. І невдовзі вони опиняться в руках противників, які мають зовсім інше бачення світу, - заявила вона європейським законодавцям.

Вона також нагадала про нещодавні випадки використання автономних ШІ-агентів не за призначенням та попередження самих розробників технологій.

- Керівники найпередовіших компаній кажуть нам, що настав час сповільнити розробку моделей, здатних до самовдосконалення. Потрібно контролювати темпи розвитку передових технологій. Якщо люди, які створюють ці технології, чітко це усвідомлюють, то й ми маємо це усвідомлювати, - сказала фон дер Ляєн.

За її словами, нещодавно ухвалені в ЄС ключові правила, що регулюють використання штучного інтелекту, дають Європі можливість впливати на глобальні зусилля зі зниження пов’язаних із ШІ ризиків. Вона такж зазначила, що Європа співпрацюватиме з однодумцями, зокрема Канадою, Великою Британією та іншими країнами, над такими заходами, як оцінювання моделей, їхня перевірка та забезпечення безпеки ШІ.

- Я запрошу провідні лабораторії, які працюють над передовими моделями, на обговорення того, як ми можемо підтримати поточні зусилля індустрії щодо контролю темпів розвитку передових технологій, - повідомила вона.

Небезпеку нових технологій підкреслив і дослідник Anthropic Джейкоб Коксон, який подав у відставку та звинуватив компанію і OpenAI у поспішному прагненні створити самовдосконалюваний суперштучний інтелект без належної уваги до безпеки. Раніше він працював в OpenAI.

Минулого тижня гендиректор Anthropic Даріо Амодеї закликав AI-компанії знизити темпи розвитку можливостей моделей. Його позицію підтримали Ілон Маск, який очолює xAI, та гендиректор OpenAI Сем Альтман.

• 27 серпня засновник Microsoft Білл Гейтс опублікував есе, в якому попередив про масштабні наслідки розвитку штучного інтелекту для ринку праці та запропонував оподатковувати ШІ й роботів.
• 8 серпня компанія OpenAI призупинила тести ІІ-моделі Astra через побоювання з приводу її кіберможливостей.