Марк Цукерберг виступив проти сповільнення розвитку штучного інтелекту

Генеральний директор Meta Марк Цукерберг не підтримав заклик керівника Anthropic Даріо Амодея щодо скоординованого сповільнення розвитку передового штучного інтелекту через безпекові загрози людству. У соціальній мережі X Цукерберг заявив, що лабораторії мають самостійно забезпечувати безпечне навчання своїх систем, а узгодженість із людськими цілями стане однією з головних характеристик ШІ.

Цукерберг наголосив, що кожна ШІ-лабораторія має відповідальність і стимул розвиватися з темпом, необхідним для безпечного навчання моделей. За його словами, компанії також можуть самостійно вживати заходів, які допоможуть забезпечити таку безпеку.

Окремо керівник Meta висловився щодо дискусії про можливе уповільнення розвитку можливостей ШІ доти, доки технології узгодження (alignment) не наздоженуть їх. Про це раніше говорив генеральний директор OpenAI Сем Альтман. На думку Цукерберга, довіра та узгодженість швидко стають найважливішими характеристиками, які відрізнятимуть різні моделі та ШІ-агентів.

Гендиректор Meta зазначив, що ШІ-агенти, які не відповідають цілям користувачів або не виконують їхніх запитів, не матимуть попиту. Тому, на його думку, ШІ-лабораторії мають природний стимул робити свої моделі більш узгодженими з людськими цінностями.

Цукерберг також наголосив, що розробники несуть значну відповідальність у разі шкоди, завданої їхніми моделями. Це, за його словами, також створює стимул для компаній запобігати небезпечним наслідкам роботи ШІ.

«Компанія Meta відклала випуск Muse на кілька місяців, щоб зосередитися на питаннях безпеки та захисту. Ми не закликали інших робити те саме перед нами; ми просто зробили це в межах нашої повсякденної роботи, оскільки це було правильним кроком як для людей, так і для нас», — додав Цукерберг.

Глава Meta також виступив за ширше залучення незалежних оцінювачів і консультантів до перевірки ШІ-систем. За його словами, Meta Superintelligence Labs уже використовує такий підхід у кількох сферах, а ширша й різноманітніша екосистема оцінювачів могла б бути корисною для всієї галузі.

«Я переконаний, що запорукою побудови позитивного майбутнього для всіх є підтримання належного балансу сил. Це нам цілком під силу», — підсумував Цукерберг.

Заклик сповільнити розвиток ШІ розкритикували також керівник Nvidia Дженсен Хуанг та президент США Дональд Трамп. Хуанг назвав апокаліптичні прогнози щодо знищення людства безвідповідальними та науково необґрунтованими, тоді як Трамп оголосив побоювання щодо загрози ШІ «фейком» і категорично виступив проти посилення регулювання, адже вони лише зашкодять економіці США та підіграють Китаю в глобальній технологічній гонці.

Президент Міжнародної асоціації безпечного та етичного ШІ Стюарт Рассел, своєю чергою, відкинув ідею сповільнення розробок і закликав запровадити обов'язкову державну сертифікацію систем безпеки ще до виходу моделей ШІ на ринок. Дослідник наполягає, що системи, які не довели своєї безпечності під час тестів, не повинні отримувати допуск до користувачів незалежно від фінансових інтересів техногігантів.

Дискусія почалася на тлі гучного звільнення дослідника Anthropic Джейкоба Коксона, який звинуватив провідні лабораторії в безвідповідальному поспіху заради створення надрозумних систем, здатних до безконтрольного самовдосконалення. Він заявив, що розробники ШІ в приватних розмовах відверто припускають загрозу загибелі людства вже до кінця поточного десятиліття. 

Після цього OpenAI, Anthropic та Google розпочали переговори про створення незалежного органу для встановлення стандартів безпеки та обов'язкової перевірки моделей ШІ перед їхнім релізом. Структуру, запропоновану главою Google DeepMind Демісом Гассабісом за зразком американського фінансового регулятора FINRA, планується фінансувати коштом самих техногігантів для забезпечення необхідних обчислювальних потужностей та аудиту.