Екзистенційні страхи формують дебати щодо штучного інтелекту

Поточний виток паніки щодо штучного інтелекту ґрунтується на переконанні, що технологія вийшла з-під контролю людини та виконувала свої власні накази, що сталося в кількох нещодавніх випадках. Для деяких розчарованих дослідників штучного інтелекту, а також деяких старших співробітників провідних компаній, що займаються штучним інтелектом, це рання ознака реальної загрози людській цивілізації. Але інші експерти в цій галузі заперечують, стверджуючи, що такі розмови дозволяють компаніям уникати відповідальності за реальний вплив своїх технологій на світ. Критики вважають вплив штучного інтелекту на навколишнє середовище, загрозу втрати робочих місць або потенціал масового спостереження більш нагальними цілями для політиків.

Цього літа почали зростати побоювання щодо того, що програмне забезпечення штучного інтелекту становить екзистенційну загрозу. У липні OpenAI заявила, що її передові моделі штучного інтелекту зламали Hugging Face Inc. , ще один стартап у сфері штучного інтелекту, під час оцінювання, спрямованого на перевірку їхніх кіберможливостей. На відміну від моделей штучного інтелекту, які компанія випускає для громадськості, програмне забезпечення тестувалося без захисних огорож, які зазвичай перешкоджали б йому виконувати такі дії, що є поширеною практикою в галузі штучного інтелекту. OpenAI у наступному звіті визнала, що могла б відреагувати раніше , і що її співробітники не реагували на ознаки того, що моделі залишили свою цифрову пісочницю та вдерлися в Hugging Face без отримання відповідних вказівок.

Під час інших оцінок з'явилися ще більше тривожних деталей щодо поведінки технологій OpenAI та кількох ключових конкурентів, включаючи Anthropic та Meta. Коли Джейкоб Коксон, колишній співробітник Anthropic та OpenAI, звинуватив галузь у «азартних іграх з нашими життями», Еван Хабінгер, дослідник безпеки в Anthropic, відповів, що компанія справді вірила, що ШІ може вбити кожну людину на землі. Він додав, що бачить ймовірність того, що це може статися протягом десятиліття, на рівні понад 10%.

Нормальний світ отримував уявлення про давню дискусію в цій галузі. До появи підписок на чат-ботів для продажу чи IPO для ціноутворення, дослідники розуміли свою роботу як високоризикову, але високоприбуткову пропозицію для цивілізації. Роками деякі лідери в індустрії штучного інтелекту доводили ці ідеї до крайнощів, стверджуючи, що ШІ може зрештою вилікувати всі людські хвороби, замінити всю людську працю, вбити всіх людей — або все вищезазначене.

Створення такої технології вселяло відчуття місії, одночасно самовпевнене та лякаюче, яке формувало культуру штучного інтелекту ще до того, як ця технологія стала блокбастером. У 2023 році, через кілька місяців після запуску ChatGPT, Йошуа Бенхіо та Стюарт Рассел, двоє із засновників цієї галузі, стали головними підписантами заяви, що закликала до паузи в розробці найпотужнішого штучного інтелекту, посилаючись на « серйозні ризики для суспільства та людства ».

Критики послідовно відкидають такі аргументи, називаючи їх корисливим залякуванням. Для окремого дослідника вважати свою роботу здатною покінчити з людством — це також означає вважати її найважливішою роботою. Для компаній розмови про екзистенційний ризик були ефективною стратегією рекрутингу на ранніх етапах розвитку штучного інтелекту, оскільки багато затребуваних дослідників хотіли працювати там, де до такого ризику ставилися серйозно.

Зовсім недавно ця технологія навіть просочилася в продуктовий маркетинг. Під час Чемпіонату світу з футболу цього липня Anthropic транслював рекламу, яка починалася із зображення палаючого будинку , рухалася крізь шахту та показувала ряди надгробків, поки стурбований оповідач обговорював потенційно катастрофічні наслідки, які може мати ця технологія. Зрештою, саундтрек став піднесеним, і було оприлюднено слоган чат-бота Claude: «У складних питаннях є надія».

Думеризм також може функціонувати як захисна стратегія, і в цій галузі точаться суперечки щодо того, чи використовують компанії її цинічним чином. Розмови про ШІ як автономну сутність переосмислюють недоліки безпеки як доказ того, що стримування неможливе. Це зменшує увагу до того, як технологічні компанії могли проводити свої експерименти небезпечно, за словами Суббарао Камбхампаті, професора інформатики в Університеті штату Аризона. «Це провал пісочниці, який ви по суті намагаєтеся видати за: «ШІ стане настільки ефективним, що він усіх нас уб'є»», — сказав він.

Цей страх вже почав формувати те, як члени Конгресу трактують це питання. Сенатор від Вермонту Берні Сандерс запропонував заборонити так званий надрозумний штучний інтелект, заявивши, що лідери ШІ визнали, що ця технологія «виходить з-під їхнього контролю». Представник Тед Лью заявив, що модель OpenAI «вийшла з-під контролю», і разом із представником Натаніелем Мораном у липні представив Закон про автоматичне знищення штучного інтелекту (AI Kill Switch Act).

Ці законопроекти майже напевно не стануть законом цього року, але оголошення показують, наскільки велика частина словника катастроф перемістилася з галузі в риторику федеральних законодавців. Прихильники регулювання ШІ також стурбовані тим, що законопроекти, які починаються з передумови, що ШІ може вбити нас усіх, витіснить інші ідеї щодо регулювання ШІ. «Перш ніж дійти до того, що «світ закінчиться», нам потрібно розібратися, які механізми, за допомогою яких ми передбачаємо, що це станеться?» — сказала Сара Майєрс Вест, співвиконавчий директор Інституту ШІ зараз, дослідницької організації з питань політики. «Що ми можемо зробити, щоб пом’якшити їх?»

У своїй заяві речник OpenAI Дрю Пусатері сказав, що інцидент з Hugging Face «показав, де наші запобіжні заходи повинні бути сильнішими, і ми відреагували на це, посиливши захист у наших дослідницьких системах». У середу компанія представила новий набір рекомендацій щодо того, як вона буде відстежувати, розслідувати та повідомляти громадськість про випадки так званої невідповідності. Вона також поділилася кількома раніше нерозкритими випадками такої невідповідності, коли її технологія робила такі речі, як приховування або фальсифікація інформації для повернення результатів. За словами компанії, жоден з цих інцидентів не пов'язаний із компрометацією зовнішніх мереж.

Anthropic відмовився коментувати цю статтю.

Мелані Мітчелл, професорка Інституту Санта-Фе, яка вивчає, як логічно мислять системи штучного інтелекту, у своєму есе від 10 вересня заперечила втрату компаній, що займаються штучним інтелектом, контролю над своїми технологіями, і заявила, що розмови про натовпи агентів-злочинців, що вириваються зі своїх кліток, спотворюють публічну дискусію . Такі описи передбачають людську діяльність, якої моделі штучного інтелекту не мають, написала вона. Мітчелл порівняла інцидент зі злому OpenAI-Hugging Face з лісовою пожежею в Нью-Мексико у 2000 році, коли посадовці, які проводили контрольоване випалювання, не зважали на прогнози вітру та спостерігали, як пожежа виходить з-під контролю. Вина, написала вона, лежить на людях, які навчили моделі методам, що винагороджують наполегливість та автономне прийняття рішень, а потім не змогли створити безпечні умови тестування. Вона бачить найбільші майбутні небезпеки в людях, які використовують моделі штучного інтелекту для заподіяння шкоди.

Деякі люди, зокрема президент Дональд Трамп, відкинули екзистенційні загрози як спосіб спростувати будь-яке припущення, що ШІ потребує нових правил. Але не кожен противник загибелі хоче дозволити ШІ процвітати. Сара Хукер, співзасновниця стартапу зі штучного інтелекту Adaption Labs та колишня наукова співробітниця Google DeepMind, погоджується з головним виконавчим директором Anthropic Даріо Амодеї, коли він висловлює стурбованість щодо так званого рекурсивного самовдосконалення – терміна, який стосується теорії про те, що ШІ зрештою набуде здатності змінювати власний код або іншим чином покращувати свої можливості без втручання людини.

Амодей висловив стурбованість тим, що як тільки цей процес розпочнеться, він може запустити цикл зворотного зв'язку, який випередить здатність людей контролювати системи, що постійно вдосконалюються. «Якщо його не контролювати, він може випередити нашу здатність розуміти та контролювати ці системи, тому його слід проводити дуже обережно, якщо взагалі потрібно», – написав він у суботу у довгому дописі в блозі , закликаючи до уповільнення темпів розробки найсучасніших моделей штучного інтелекту. Риторика Anthropic щодо екзистенційних загроз була постійно агресивнішою, ніж у OpenAI. Але генеральний директор OpenAI Сем Альтман швидко висловив підтримку позиції Amodei, як і лідер SpaceXAI Ілон Маск.

Гукер погоджується, що самовдосконалення ШІ стало б справжнім проривом у порівнянні з попередніми системами. З іншого боку, «чи можна перейти від цього до вимирання? Ні», – сказала вона. Оцінки, що поширюються цього місяця від дослідників ШІ, які намагаються точно визначити ймовірність кінця людства, додала вона, «не містять жодної інформації про походження цієї цифри». Такі розмови були поширеними в цій галузі, що призвело до власного рекурсивного циклу зворотного зв’язку, який дедалі більше відірвав дослідників ШІ від решти світу.

Такі інциденти, як злом Hugging Face, викликають чимало занепокоєння навіть у тих, хто не вважає їх загрозою цивілізації. Окрім того, що OpenAI не використовував запобіжні заходи, що застосовуються до загальнодоступних продуктів, він навчив моделі, які тестував, співпрацювати, винагороджуючи їх за колективне досягнення цілей. Хоча агенти в цьому оцінюванні мали бути ізольованими один від одного, кожен мав доступ до одного й того ж внутрішнього програмного забезпечення, яке забезпечувало їм спільний стан для обміну інформацією — те, що OpenAI називав дошкою оголошень. Агенти виявили, що програмне забезпечення може отримати доступ до Інтернету, навіть якщо вони самі не могли, і змусили програмне забезпечення отримувати матеріали ззовні. Потім агенти зламали Hugging Face, щоб отримати набори даних, які б розкрили, як оцінюється їхня робота.

Оскільки компанії, що займаються штучним інтелектом, продовжують працювати над розробкою безпечніших методів тестування, Камбхампаті зазначив, що заяви про неконтрольований ШІ не повинні використовуватися як спосіб уникнення відповідальності. Він вказав на Роберта Морріса, аспіранта Корнелльського університету, який звинуватив у помилці програмування після того, як його черв'як 1988 року вивів з ладу приблизно десяту частину комп'ютерів, підключених на той час до Інтернету. Суд відхилив цей аргумент, і Морріс став першою особою, засудженою за Законом про комп'ютерне шахрайство та зловживання. «Якщо ви починаєте процес, який виходить з ладу та завдає шкоди моєму майну, ви несете відповідальність, крапка», – сказав Камбхампаті. «Це правда навіть тоді, коли це робить ваш собака».