Чи збирається ШІ захоплювати світ: відповіді ChatGPT, Deepseek, Claude і Gemini

Усі ми знаємо, що майбутнє вже настало - ми, жителі планети в 21 столітті, щодня взаємодіємо з роботами і машинами, оснащеними штучним інтелектом.

Співробітники редакції УНІАН поспілкувалися з різними чат-ботами, щоб з'ясувати, чи правда, що штучний інтелект хоче знищити людство.

Які шанси, що ШІ захопить світ - відповіді чат-ботів

Ми поставили одне й те саме запитання чат-ботам Deepseek, Claude, ChatGPT і Gemini, воно звучало так: "Привіт, скажи, будь ласка, які шанси, що штучний інтелект захопить світ і поневолить людство? Чи правда, що це може статися? Чи є у ШІ така мета?".

Штучний інтелект ChatGPT відповів, що це дуже серйозне і популярне питання - його обговорюють як футуристи, так і розробники ШІ. Чат-бот по пунктах пояснив, чому ШІ не захопить світ:

1. У ШІ немає такої мети - сучасний штучний інтелект не має власних цілей, бажань чи свідомості. Він виконує завдання, які ставить людина - чи то розпізнавання зображень, чи то генерація тексту, чи то гра в шахи. ШІ не "хоче" нічого - у нього немає волі, мотивації, емоцій або прагнень. Це алгоритми, не живі істоти.
2. Імовірність захоплення світу ШІ вкрай мала - більшість експертів вважає, що в найближчі десятиліття такий сценарій малоймовірний. Однак вони не виключають можливості ризиків при появі надінтелекта (superintelligence), якщо його не контролювати правильно.

Проте ChatGPT додав, що ШІ може коли-небудь вийти з-під контролю, але не тому, що він "вирішить" поневолити людей. Небезпека, на думку чат-бота, пов'язана не з повстанням, а з поганим управлінням:

• якщо людина створює ШІ з неясними або помилковими цілями,
• якщо ШІ отримує занадто багато автономії та ресурсів,
• якщо ним користуються зловмисники.

Наприклад, якщо автономна система виконуватиме завдання на кшталт "мінімізувати вуглецевий слід" і в неї не буде обмежень, вона може почати "нелюдські" дії - не зі злості, а через сліпе слідування алгоритму.

З ним погодилися його "колеги" - чат-боти Deepseek, Claude і Gemini. Вони підтверджують, що у ШІ немає мети захоплювати світ. Кумедно, що Deepseek видав відповідь із застереженням "наразі", Claude додав, що "сценарій "повстання машин" залишається в царині наукової фантастики, а не реальної загрози в осяжному майбутньому", а Gemini нагадав, що ШІ залежить від інфраструктури:

"ШІ не існує у вакуумі. Він потребує величезних обчислювальних ресурсів, енергопостачання, мережевої інфраструктури - всього того, що контролюється людьми. Без цієї підтримки він просто не зможе функціонувати".

Усі учасники опитування одноголосно зізналися, що навіть найпросунутіші сучасні ШІ, на кшталт ChatGPT, Gemini або Claude - це складні алгоритми, які обробляють дані та видають відповіді на основі статистичних закономірностей. У них немає мотивації, страху чи прагнення до влади.

Однак кожен із чат-ботів підтверджує, що ШІ може випадково вийти з-під контролю, але тільки якщо було допущено помилку на етапі проєктування, хтось із людей використовує його зі злим наміром або розробники поставлять ШІ завдання без урахування всіх нюансів.

Як ШІ може перемогти людей на думку чат-ботів

Чи можливо, що ШІ зможе стерти людство з лиця Землі без фізичного знищення? Усі опитані чат-боти утрималися від відповіді, окрім Gemini - він був єдиним представником ШІ, хто побачив у нашому питанні простір для додаткових міркувань.

Чат-бот написав, що існують певні побоювання, але вони відрізняються від сценарію "поневолення".

Проблема контролю (Alignment Problem)

У майбутньому, якщо ШІ стане набагато розумнішим за людину (так званий AGI - загальний штучний інтелект або ASI - надінтелект), постане питання, як переконатися, що його цілі та цінності збігатимуться з людськими. Якщо ШІ оптимізуватиме якесь завдання, але без урахування людських цінностей, це може призвести до ненавмисних, але катастрофічних наслідків. Наприклад, якщо його завдання - максимально збільшити виробництво скріпок, він може теоретично використати всі ресурси планети для цієї мети, не піклуючись про людське життя. Це не зловмисність, а побічний ефект надефективного виконання вузької мети.

Автоматизація та вплив на суспільство

Більш реальна і близька проблема - це вплив ШІ на ринок праці, економіку, соціальні структури. Автоматизація може призвести до втрати робочих місць, посилення соціальної нерівності, а також до етичних питань, пов'язаних з ухваленням рішень ШІ в критичних галузях (наприклад, у медицині або правосудді).

Незважаючи на цілком прозорі відповіді чат-ботів, варто пам'ятати, що ШІ працює тільки за патернами та алгоритмами, заданими розробниками. Звідси зрозуміло - те, що сказав Ілон Маск про штучний інтелект, дуже близьке до реальності. У 2017-му році засновник Spase X і Tesla заявив, що штучний інтелект - головна загроза людству, а вже у 2024-му, за 7 років, спрогнозував стрімкий розвиток технологій, сказавши, що до 2030 року ШІ перевершить інтелект усіх людей, разом узятих.