Які загрози для людства несе ШІ: пояснює гендиректор Anthropic Даріо Амодей

Генеральний директор Anthropic Даріо Амодей під час дискусії на Всесвітньому економічному форумі попередив про критичні ризики, пов’язані зі стрімким наближенням штучного загального інтелекту (AGI).

Він порівняв поточний стан цивілізації з небезпечним перехідним періодом, коли людство створює надпотужні технології, здатні як принести неймовірну користь, так і спричинити глобальну катастрофу в разі втрати контролю.

Амодей підготував нове есе, присвячене ризикам ШІ, де використовує метафору з фільму «Контакт» Роберта Земекіса про виживання цивілізації.

«Є сцена в "Контакті", де вони виявляють інопланетне життя, і міжнародна комісія проводить співбесіди з кандидатами на роль представника людства для зустрічі з прибульцями. І одне із запитань кандидату: "Якби ви могли поставити інопланетянам одне запитання, яке б це було?" І один із персонажів відповідає: "Я б запитав: як вам це вдалося? Як ви змогли пройти через це технологічне дорослішання, не знищивши себе? Як ви впоралися?"» — каже він.

Встановлення контролю

Голова Anthropic підкреслив, що наступні кілька років будуть вирішальними для встановлення контролю над автономними системами, які стають розумнішими за людину. Серед найбільших загроз він виділив «біотероризм» та зловживання з боку авторитарних держав, зокрема КНР.

«Найближчими роками ми розбиратимемося з тим, як утримати під контролем ці системи, які високоавтономні та розумніші за будь-яку людину. Як переконатися, що окремі люди не використовують їх на зло — мене турбує, наприклад, біотероризм. Як переконатися, що держави не зловживають ними — тому я так стурбований КПК та іншими авторитарними урядами. Які економічні наслідки — я багато говорив про витіснення робочої сили», — сказав гендиректор Anthropic.

«Це відбувається так швидко і є настільки критичним, що ми повинні присвятити майже всі наші зусилля роздумам про те, як крізь це пройти», — наголосив Амодей.