Король Англії висловив свої сумніви щодо штучного інтелекту

Король Чарльз провів закритий саміт за участю деяких найвідоміших імен у сфері штучного інтелекту та уряду Великої Британії, зокрема Дженсена Хуанга з Nvidia, лідерів OpenAI та Anthropic, нового міністра штучного інтелекту Великої Британії Канішки Нараяна та навіть голови служби зовнішньої розвідки Великої Британії. Паоло Бенанті, який радить Папу Римського з питань штучного інтелекту, також був там.

Виступи короля на саміті , що відбувся в Дамфріс-Хаус, маєтку XVIII століття в Ейрширі, що належить благодійному фонду короля Карла, були примітними, оскільки королівська родина зазвичай обережна, з конституційних міркувань, і не заглиблюється в політичні питання, а штучний інтелект зараз є одним з найгостріших питань у світі. Король закликав присутніх лідерів знайти спосіб контролювати штучний інтелект, «поки не пізно», додавши, що швидкий розвиток цієї технології та її «сутності» є «і інтригуючим, і глибоко тривожним». 

«Штучний інтелект вже демонструє величезну здатність покращувати та рятувати життя», – сказав він, наводячи як приклад медицину та науку. «Однак ті, хто створив ці технології, зараз дедалі частіше попереджають, що ШІ ризикує розвинути темніші здібності, можливо, навіть позбавити життя». Це зауваження пролунало лише через кілька днів після того, як дослідник антропології звільнився, написавши в Інтернеті, що компанії, що займаються ШІ, «змагаються у створенні машин, які набагато розумніші за будь-яку людину», і що людство «може не пережити цього». 

Король продовжив, заявивши, що терміново необхідно належним чином врахувати «екзистенційні небезпеки» того, що станеться, якщо ця технологія потрапить у чужі руки та буде використана «потенційно катастрофічним чином». 

«Звісно, ​​нам потрібні достатні засоби контролю, поки не стало надто пізно?» — сказав він. Завершуючи свою промову, король Карл закликав лідерів знайти спосіб використати переваги штучного інтелекту та побудувати міжнародну співпрацю й консенсус для досягнення цього результату. (Це зауваження пролунало після того, як Anthropic закрила доступ до своїх моделей Fable та Mythos лише для клієнтів зі США, що шокувало європейську технологічну сцену та змусило багатьох задуматися про концепцію суверенітету штучного інтелекту.) 

«Завдання, що стоїть перед вами, полягає не просто в розвитку технологій, а в тому, щоб забезпечити їхню міцну службу людству, громаді та природі», – сказав він, завершуючи свою промову. «Приймаючи нове, ми не повинні втрачати те, що позачасове». 

Видання повідомляють, що він пробув близько 20 хвилин , залишивши гостей обговорювати ці питання між собою. На саміт короля OpenAI відправила свого фінансового директора Сару Фріар, а Anthropic – Тіно Куельяра, який відповідає за глобальні справи. Коли Куельяр звернувся за коментарем, він сказав, що для компанії честь взяти участь в обговоренні та вдячний королю за «скликання лідерів галузі та голосів з усього суспільства для обговорення ролі ШІ у служінні суспільному благу». 

Це показує, наскільки складним стало питання, оскільки інтереси великих технологічних компаній, політики та суспільства стикаються. Протягом минулого року OpenAI та Anthropic анонсували масштабні IPO, хоча OpenAI нещодавно заявила, що її плани щодо IPO цього року були зупинені через незмінні побоювання щодо безпеки ШІ.