Колишні працівники OpenAI благають заборонити майбутні розробки компанії через загрозу людству

Що відбувається

Понад десять років тому Сем Альтман та Ілон Маск створили OpenAI, обіцяючи розвивати штучний інтелект в інтересах людства. Проте зі стрімким зростанням ринку амбіції керівництва компанії також змінилися. Маск покинув OpenAI у 2018 році й зараз очолює власну ШІ-компанію xAI. Тим часом OpenAI, яка стартувала як прозора некомерційна організація, перетворюється на типовий стартап Кремнієвої долини – із внутрішніми скандалами та критикою від колишніх працівників, повідомляє 24 Канал з посиланням на Futurism.

Цього тижня група ексспівробітників OpenAI, разом із професорами права, активістами та лауреатами Нобелівської премії, направила листа генеральним прокурорам Каліфорнії та Делаверу. Вони закликають заблокувати план компанії щодо повного переходу на комерційну модель. Варто нагадати, що того ж самого добивається й Ілон Маск, подавши відповідні позови проти OpenAI та Сема Альтмана.

Колишній співробітник компанії Нісан Стіннон заявив, що OpenAI може створити технологію, яка буде здатна знищити все людство. Він підкреслив, що зараз компанія формально контролюється некомерційною організацією, яка має зобов'язання діяти в інтересах людства. Втрата цього контролю може відкрити двері для небезпечних рішень. Альтмана давно звинувачують у тому, що він ставить прибуток на перше місце, нехтуючи питаннями безпеки. Наприклад, це раніше робив Ілля Суцкевер, співзасновник компанії та головний творець технології GPT, а також одна з колишніх працівниць компанії, Гелен Тонер, котра перебувала в Раді директорів й випустила ціле дослідження на тему того, як OpenAI порушує заходи безпеки.

Більшість провідних компаній у сфері ШІ давно працюють як звичайні комерційні структури. Перехід OpenAI, провідної компанії в галузі, у цей табір, на думку інсайдерів, поставить під загрозу принципи, які вивели її на перші позиції у світі технологій. Тодор Марков, ще один колишній працівник OpenAI, який тепер працює в Anthropic, пояснює, що зараз керівники компанії мають юридичне зобов'язання дотримуватися статуту, який вимагає, щоб штучний загальний інтелект (AGI) приносив користь усім людям. У разі переходу до комерційної структури це зобов'язання зникне, а тому захистити суспільний інтерес буде набагато важче.

Раніше Альтман уже втратив довіру всередині OpenAI. У 2023 році його тимчасово відсторонили після приховування запуску ChatGPT від ради директорів і самовільного схвалення нових покращень моделі. Хоча його швидко повернули на посаду, репутаційний удар залишився. Громадськість, судячи з усього, не дуже на це зважає, але колишні працівники, які працювали з Альтманом особисто, здебільшого виступають проти нього, що не може не насторожувати.

Тепер питання про те, чи зможе OpenAI зберегти свій статус суспільно корисної організації, вирішується на рівні генеральних прокурорів. Водночас багато дослідників вважають, що створення справжнього AGI (універсального ШІ, дійсно розумнішого за людину) залишається поки що недосяжною метою. Якщо це так, загроза від комерційного переходу OpenAI може бути суттєво перебільшеною. Однак страхи навколо майбутнього штучного інтелекту продовжують зростати.