Anthropic закликає пригальмувати розвиток ШІ, а NVIDIA виступає проти

В індустрії штучного інтелекту набирає обертів дискусія про необхідність уповільнити розвиток найпотужніших моделей. CEO Anthropic Дario Амодеї запропонував план, який передбачає більш контрольований розвиток frontier AI, тоді як керівник NVIDIA Дженсен Хуанг публічно виступив проти ідеї масштабного уповільнення та посилення регулювання.

На тлі цього керівники Anthropic, OpenAI та інших компаній почали говорити про спільні правила безпеки. Серед пропозицій — залучення незалежних експертів, які працювали б безпосередньо всередині компаній і контролювали безпеку розробок та повідомляли про серйозні інциденти.

Однак залишається головне питання: чи означає це реальне уповільнення розвитку ШІ, чи лише створення додаткового контролю без зміни темпів розробки?

Що пропонують компанії

Ідея Амодеї полягає не в тому, щоб повністю зупинити розвиток штучного інтелекту. Йдеться про створення механізмів, які дозволять краще контролювати ризики під час розробки найпотужніших моделей.

Одна з пропозицій — незалежні оцінювачі, які отримуватимуть доступ до внутрішніх процесів AI-компаній. Вони мають перевіряти системи безпеки, аналізувати інциденти та оцінювати поведінку моделей.

OpenAI вже заявила про готовність запровадити подібний підхід. Компанія також співпрацює з Anthropic і Google над питаннями безпеки ШІ.

Але конкретних деталей поки недостатньо. Невідомо, які саме організації отримають доступ, наскільки широкими будуть їхні повноваження та яку інформацію вони зможуть публікувати без погодження з самими AI-компаніями.

Чи будуть незалежні перевірки справді незалежними?

Саме тут виникає одна з головних проблем. Якщо незалежний оцінювач фактично працює за контрактом із компанією, яка розробляє модель, виникає питання, наскільки вільно він зможе повідомляти про проблеми.

Дослідники пропонують надати таким організаціям доступ не лише до готових моделей, а й до проміжних версій, логів, процесу навчання та результатів тестування. Це дозволило б побачити, коли саме у моделі виникла небезпечна поведінка.

Проблема полягає і в часових рамках. Під час розслідування інциденту з Hugging Face незалежні дослідники мали приблизно тиждень для роботи на території OpenAI. Пізніше вони заявили, що через обмежений час і масштаб перевірки не змогли зробити впевнених висновків.

Схожа ситуація виникла під час тестування GPT-6 Astra. Дослідники Apollo Research отримали лише три дні для перевірки моделі перед її випуском, що також обмежило можливість зробити остаточні висновки.

Чи потрібне регулювання?

Прихильники більш жорсткого контролю вважають, що добровільних домовленостей може бути недостатньо. Компанія може погодитися на незалежний контроль сьогодні, але змінити правила завтра, якщо зіткнеться з комерційним або репутаційним тиском.

Саме тому частина експертів виступає за законодавчі вимоги. У США вже з’являються відповідні механізми. Наприклад, каліфорнійське законодавство передбачає певні вимоги до безпеки великих розробників frontier AI, а нові правила створюють основу для роботи незалежних організацій, які оцінюють ризики ШІ.

У Європейському Союзі AI Act також передбачає оцінювання та adversarial testing найпотужніших моделей, документування результатів і повідомлення про серйозні інциденти.

Водночас ці правила поки не охоплюють усі механізми, які пропонує Амодеї.

Не всі компанії погодилися

Попри те, що навколо ідеї безпеки формується певна підтримка, далеко не всі великі AI-компанії погодилися на запропонований підхід.

Meta, SpaceXAI та Google DeepMind поки не взяли на себе зобов’язання впроваджувати незалежних оцінювачів усередині компаній. Водночас глава Google DeepMind Деміс Хассабіс запропонував інший варіант — створення окремого галузевого органу зі стандартизації та незалежного тестування frontier-моделей.

Таким чином, у галузі справді почалася дискусія про правила та безпеку. Але поки що запропоновані заходи більше схожі на створення системи контролю, ніж на конкретну домовленість про зниження темпів розвитку ШІ.

І саме тут залишається головне питання: чи готові компанії, які витрачають мільярди доларів на створення дедалі потужніших моделей, реально обмежити себе заради безпеки, якщо конкуренти продовжать рухатися вперед.