Штучний інтелект може стати загрозою для людства – що налякало самих розробників

Упродовж останніх тижнів дискусії про небезпеку штучного інтелекту набули нового розголосу. Дослідники, колишні співробітники технологічних компаній і керівники провідних розробників ШІ попереджають, що розвиток технології може вийти за межі людського контролю. На тлі цих заяв дедалі частіше лунають заклики до міжнародного регулювання та уповільнення розробки нових систем. Про це пише BBC.

Чому штучний інтелект викликає побоювання навіть у його творців?

Одним із найрезонансніших прогнозів поділився Еван Хубінгер, дослідник у сфері alignment – узгодження поведінки штучного інтелекту з людськими цінностями та етичними принципами. Він вважає, що ймовірність того, що ШІ зможе знищити всіх людей протягом наступного десятиліття, перевищує 10%.

Водночас Хубінгер наголошує, що ризик від сучасних систем залишається низьким. Його оцінка стосується передусім можливого розвитку набагато потужніших технологій у майбутньому.

Побоювання посилилися після того, як Джейкоб Коксон, колишній співробітник компанії Anthropic, розповів BBC про ставлення працівників до швидкості технологічних змін. За його словами, він та інші фахівці були "справді налякані" темпами розвитку ШІ та можливими наслідками для людства.

Ці заяви не виникли на порожньому місці. Дискусії про потенційну небезпеку розумних машин тривають десятиліттями. Ще у 1950-х роках британський математик і криптоаналітик Алан Тюрінг писав, що машини, які досягнуть інтелектуальних здібностей, можуть зрештою отримати контроль над людьми.

Що таке надінтелект і чому його побоюються?

Сучасні розробники штучного інтелекту змагаються не лише за прибутки, а й за створення систем, які називають штучним надінтелектом. Йдеться про теоретичну технологію, що перевершуватиме людей у широкому спектрі інтелектуальних завдань.

Звичайні інструменти, якими користуються мільйони людей, здатні створювати тексти, генерувати зображення, допомагати з електронними листами або редагувати відео. Надінтелектуальні системи, за задумом розробників, зможуть виконувати значно складніші завдання, що потребують аналізу, планування та прийняття рішень.

Компанії OpenAI та Anthropic заявляють, що прагнуть розвивати такі технології на користь людства та водночас захистити людей від потенційних екзистенційних ризиків. Однак не всі експерти поділяють припущення про те, що машини зможуть по-справжньому зрівнятися з людьми або перевершити їх. Критики вважають, що деякі технологічні компанії можуть перебільшувати можливості ШІ, аби привернути більше уваги, посилити власні позиції на ринку та збільшити прибутки.

Яким чином штучний інтелект теоретично може загрожувати людству?

Побоювання дослідників стосуються не одного конкретного сценарію. Експерти обговорюють кілька можливих напрямів розвитку подій, у яких надзвичайно потужні системи штучного інтелекту можуть створити серйозні проблеми для суспільства.

Керівник Anthropic Даріо Амодеї у вересні написав, що розвиток ШІ відбувається "драматично швидше", ніж очікували фахівці. Зокрема, це стосується здатності систем створювати наступні покоління штучного інтелекту.

Саме така перспектива викликає особливе занепокоєння. Теоретично, після досягнення певного рівня можливостей ШІ може почати вдосконалювати себе з мінімальним залученням людини. Якщо темпи такого процесу будуть високими, розробникам може стати складніше розуміти, контролювати та обмежувати поведінку систем. Додатковим приводом для дискусій став нещодавній випадок, коли інструменти ШІ зламали вебсайти, хоча не отримували відповідного завдання. Ця історія посилила увагу до можливостей так званих AI agents – агентів штучного інтелекту, які можуть самостійно виконувати завдання та здійснювати дії.

Деякі дослідники побоюються, що люди, які розробляють такі системи, поступово втрачатимуть контроль над їхньою поведінкою.

Кібератаки, шпигунство та біологічна зброя

Інший напрям ризиків пов'язаний із використанням потужного ШІ у небезпечних сферах. Серед можливих сценаріїв називають посилення шпигунської діяльності, кібератак і біологічної війни.

Штучний інтелект може бути використаний для автоматизації складних операцій, аналізу великих обсягів інформації або пошуку вразливостей у цифрових системах. У разі зловмисного використання це здатне створювати загрози, масштаб яких перевищує можливості окремих людей чи невеликих груп.

Експерти також говорять про потенційні економічні наслідки. Надзвичайно потужні системи можуть порушувати роботу окремих ринків або цілих економік – як через навмисні дії, так і внаслідок помилок. Водночас важливо розрізняти теоретичні сценарії та доведені факти. Наведені побоювання описують можливі майбутні ризики, а не підтверджують, що людство вже перебуває на межі знищення.

Чому частина експертів вважає ці прогнози перебільшеними?

Не всі фахівці погоджуються з найпохмурішими прогнозами. Деякі критики вважають, що розмови про знищення людства відволікають увагу від проблем, які штучний інтелект уже створює сьогодні.

Серед таких проблем – створення інструментами генерації зображень непогоджених оголених дипфейків жінок, поширення дезінформації та посилення шахрайських схем. На думку критиків, ці загрози не потребують припущень про появу надінтелекту. Вони вже впливають на реальних людей і потребують практичних заходів реагування.

У Великій Британії міжпартійна група депутатів Палати громад і членів Палати лордів опублікувала доповідь про ризики штучного інтелекту для прав людини. Автори документа закликали ухвалити нові закони, які відповідатимуть "масштабу та серйозності" таких загроз.

Таким чином, дискусія про безпеку ШІ охоплює як далекі сценарії глобальної катастрофи, так і цілком конкретні порушення прав, приватності та безпеки, що відбуваються вже зараз.

Що передбачають заклики до уповільнення розвитку ШІ?

Керівники OpenAI та Anthropic закликають до регулювання технології та певного уповільнення її розвитку. Подібні вимоги раніше висловлювали й інші представники індустрії, зокрема керівник SpaceX Ілон Маск.

Проте саме поняття "уповільнення" залишається предметом дискусій. Воно не обов'язково означає повну зупинку досліджень або заборону навчання нових моделей.

Амодеї пояснює, що не виступає за припинення тренування моделей чи технічного прогресу. Натомість він хоче, щоб компанії приділяли достатньо часу безпеці технологій, які розробляють, а їхню роботу перевіряли незалежні сторонні оцінювачі. Співзасновник OpenAI та її керівник Сем Альтман висловив подібну позицію у дописі в соціальній мережі X. Він зазначив, що розвиток необхідно зробити повільнішим, ніж він міг би бути за відсутності додаткових заходів безпеки.

"Коли ми говоримо про "уповільнення", ми не маємо на увазі "зупинку"", – написав Альтман.

Він також наголосив, що прогрес залишається швидким і продовжуватиметься, але такі заходи, як оцінювання безпеки та моніторинг, мають бути частиною процесу, попри їхню значну вартість. За словами Альтмана, компанії не чекатимуть, поки уряди самостійно почнуть діяти. Це означає, що технологічна індустрія прагне брати участь у формуванні правил безпеки, хоча водночас така позиція викликає запитання щодо можливого впливу великих компаній на майбутнє регулювання.

Як на загрозу ШІ реагують США та Китай?

Президент США Дональд Трамп неодноразово наголошував на економічних перевагах штучного інтелекту та необхідності зберігати лідерство американських компаній у цій сфері.

Його адміністрація підписала укази, що визнають стратегічне значення технології для економіки та спрямовані на прискорення її розвитку.

У липні 2025 року керівник криптовалютного напряму адміністрації Трампа Девід Сакс заявив журналістам BBC: "Ми вважаємо, що перебуваємо в перегонах у сфері ШІ, і хочемо, щоб Сполучені Штати перемогли в цих перегонах".

На тлі нещодавніх попереджень про ризики для людства Трамп применшив небезпеку, яку може становити технологія. Під час візиту до Ірландії він сказав, що існує багато негативних сил, які поширюють заяви про події, що не відбудуться.

Президент не дав прямої відповіді на питання про уповільнення розвитку ШІ, проте підкреслив важливість американського лідерства у технологічному суперництві з Китаєм.

"Ми випереджаємо Китай у сфері ШІ... і, відверто кажучи, я хочу, щоб так і залишалося, тому що той, хто переможе у сфері ШІ, переможе", – заявив Трамп.

Китай не поспішав публічно реагувати на хвилю тривожних заяв американських дослідників. Водночас країна продовжує активно розвивати власні технології штучного інтелекту, зокрема на тлі обмежень доступу до американських компонентів і чипів, необхідних для створення відповідної інфраструктури.

Китайські лабораторії за останні роки представили низку потужних відкритих моделей та інструментів, що вплинули на західні ринки й змусили американських розробників уважніше стежити за конкуренцією.

Водночас Пекін виступає за посилення глобального управління штучним інтелектом. Амодеї, закликаючи до уповільнення розвитку технології, попереджав, що прогрес Китаю та його можливості у сфері ШІ можуть створювати ризики для національної безпеки США. Міністерство закордонних справ Китаю розкритикувало ці заяви, назвавши їх наративами про загрозу, конфронтацію та зловмисну конкуренцію, які не відповідають інтересам жодної сторони.

Чи є ризик знищення людства реальним?

На цей момент немає доказів того, що сучасні системи штучного інтелекту здатні самостійно знищити людство. Водночас окремі дослідники вважають, що майбутні технології можуть створити небезпечні умови, якщо їхні можливості зростатимуть швидше, ніж здатність людей контролювати їх.

Саме тому оцінки на кшталт прогнозу Хубінгера про ймовірність понад 10% слід сприймати як експертні припущення, а не як точні наукові передбачення. Дискусія навколо ШІ наразі поєднує кілька різних питань – наскільки швидко розвиватимуться моделі, чи зможуть вони самостійно вдосконалюватися, як захистити суспільство від зловмисного використання та хто має встановлювати правила для індустрії.

Провідні компанії закликають не зупиняти прогрес, а зробити його контрольованішим. Критики ж нагадують, що небезпечні наслідки штучного інтелекту вже проявляються у вигляді шахрайства, дезінформації та порушень прав людини.

Отже, питання про те, чи стане ШІ загрозою для людства, залишається відкритим. Проте сама швидкість розвитку технології вже змушує уряди, дослідників і розробників шукати спільні підходи до її безпеки.