"Ми граємо з людськими життями": дослідник Anthropic звільнився через страх перед ШІ

Дослідник Anthropic Джейкоб Коксон пішов з компанії та вирішив залишити галузь штучного інтелекту через побоювання, що розробники поспішають створити "самовдосконалений" надінтелект, але при цьому не замислюються над тим, як його контролювати в майбутньому. Про це повідомляє Politico.

27-річний математик раніше працював в іншому гіганті у сфері ШІ – OpenAI, але в 2026 році перейшов до Anthropic на посаду спеціаліста з навчання моделей на великих масивах даних. За словами Джейкоба, його привабила репутація OpenAI у питаннях безпеки використання та розвитку нейромереж.

Однак уже за кілька місяців дослідник дійшов до невтішного висновку. Коксон переконаний, що світ поступово рухається до "точки неповернення": лідери компаній, що займаються штучним інтелектом, вірять у те, що нейромережі можуть знищити людство до кінця десятиліття. Тому він і звільнився з Anthropic, щоб не "гратися з людськими життями".

Найнебезпечнішим є момент, коли алгоритмам дозволять доповнювати й удосконалювати власний код без участі людини. У таких умовах системи почнуть розвиватися з шаленою швидкістю і їх буде набагато складніше передбачити й контролювати. Відхід Коксона став першим подібним випадком у компанії Anthropic, хоча з OpenAI та інших компаній, що займаються ШІ, співробітники йшли з подібними попередженнями й раніше.

Про ризики прискореного розвитку ШІ попереджав і співзасновник Anthropic Джек Кларк. За його словами, нові моделі ШІ вже перебувають на порозі рекурсивного самовдосконалення – тобто здатності розвиватися без контролю людини. Як виглядатиме світ, де ШІ навчиться вдосконалювати себе самостійно, в Anthropic не знають, тому дослідник закликає всіх технологічних гігантів укласти угоду й уповільнити розвиток ШІ.

Сем Альтман, керівник OpenAI, заявляв, що людство стоїть на порозі створення цифрового "надрозуму", і цей процес неминучий. Через пару років ШІ робитиме наукові відкриття, "які люди не змогли б зробити самі".