Лауреат Нобелівської премії каже, що "пишається" рішенням звільнити Сема Альтмана з OpenAI

Трохи передісторії

У листопаді 2023 року колективним рішенням Ради директорів було звільнено директора Сема Альтмана. Хоча за цей час з'явилося чимало коментарів, витоків і свідчень від різних осіб і видань, офіційних пояснень ми так і не отримали.

Альтман зміг повернутися на посаду дуже швидко, а всі, хто організував або підтримав цей "заколот" втратили свої місця в Раді або взагалі в компанії. Ілля Суцкевер, якого назвали головним ініціатором, спочатку лишився працювати в OpenAI, але пішов сам у травні 2024 року. Технічна директорка Міра Мураті звільниласьу вересні 2024-го разом із двома іншими директорами підрозділів. Пішли також Пітер Денг, Джон Шульман і Гелен Тонер. Грег Брокман узяв тривалу відпустку до кінця року.

У результаті Альтман тільки виграв від цієї ситуації, отримавши ще більше влади. Він очолив новий відділ безпеки після звільнення Яна Лейке, ще одного директора, сформував нову Раду директорів, а тепер ходять чутки, що він хоче перетворити організацію з суто дослідницької на комерційну, в якій отримає величезну частку в 150 мільярдів доларів акціонерного капіталу.

Чому Хінтон радів звільненню Альтмана

Цього тижня Джеффрі Хінтон отримав Нобелівську премію за фундаментальну роботу над нейронними мережами, яка принесла йому прізвисько "хрещений батько ШІ". У своїй промові у вівторок професор Хінтон похвалив свого студента, натякаючи на колишнього головного наукового співробітника OpenAI Іллю Суцкевера. Він сказав, що той добре зробив, коли повстав проти генерального директора OpenAI.

Мені особливо пощастило, що у мене було багато дуже розумних студентів, набагато розумніших за мене. Вони дійсно змусили все працювати. Вони пішли далі, щоб робити великі справи. Я особливо пишаюся тим, що один із моїх студентів звільнив Сема Альтмана,
– сказав Хінтон.

Звичайно, Хінтон має на увазі голосування ради директорів OpenAI за звільнення Альтмана в листопаді 2023 року. Суцкевер повідомив Альтману цю новину по відеозв'язку, але пізніше сказав у своєму твітері, що шкодує про це. Хінтон, схоже, відсвяткував звільнення генерального директора OpenAI як перемогу в боротьбі за безпеку ШІ, за яку він часто виступає. Однак перемога виявилася нетривалою.

Задля додаткового контексту слід зазначити, що підхід Сема Альтмана до керування компанію не критикував хіба що лінивий. Річ у тім, що він, судячи з усього, поставив заробітки вище питань безпеки штучного інтелекту. Там де Ілля Суцкевер і його колеги намагалися просуватися поступово, щоб упевнитися в безпечності продуктів для людства, Альтман навпаки гнався вперед, прагнучи першим досягти так званого AGI, універсального ШІ, який зможе в рамках однієї моделі виконувати різні завдання й робити це краще, ніж людина, що, власне, є поточною метою більшості розробників штучного інтелекту. Ми не знаємо всіх деталей цього, адже інформація надходила в дуже обмеженому вигляді й від різних людей. Нехтування безпекою Альтману закидав Ілон Маск, один зі співзасновників OpenAI, Даніела й Даріо Амодеї, які раніше працювали в компанії, а потім пішли, щоб заснувати конкурентний стартап Anthropic, а також численні колишні працівники, серед яких сам Суцкевер і Гелен Тонер, та навіть сторонні вчені.

Тож Хінтон, як людина, що фактично створила ШІ як технологію, розуміє, що не так із методами керівництва Сема Альтмана й, судячи з усього, є одним із тих, хто готовий ці методи критикувати. На жаль, він не вдався до будь-якої конкретики, тож невідомо, яку конкретно позицію він займає в цьому питанні. Але точно можна сказати одне: Сем Альтман звернув кудись не туди.