Цукерберг не підтримав ідею сповільнення розвитку ШІ

Генеральний директор Meta Марк Цукерберг не підтримав заклик керівника Anthropic Даріо Амодея до скоординованого сповільнення розвитку передового ШІ.

Про це він написав у X.

За словами Цукерберга, кожна ШІ-лабораторія має відповідальність і стимул розвиватися з темпом, необхідним для безпечного навчання моделей. ШІ-агенти, які не відповідають цілям користувачів, не матимуть попиту, тому компанії природно зацікавлені в узгодженості з людськими цінностями. Він також зазначив, що розробники несуть значну відповідальність у разі шкоди від своїх моделей. "Meta відклала випуск Muse на кілька місяців, щоб зосередитися на питаннях безпеки. Ми не закликали інших робити те саме, ми просто зробили це в межах нашої повсякденної роботи", – написав він. Цукерберг також виступив за ширше залучення незалежних оцінювачів до перевірки ШІ-систем.

Заклик сповільнити розвиток ШІ відкинули й інші: керівник Nvidia Дженсен Хуанг назвав апокаліптичні прогнози "безвідповідальними та науково необґрунтованими", а Трамп оголосив побоювання щодо загрози ШІ "фейком". Натомість президент Міжнародної асоціації безпечного ШІ Стюарт Рассел запропонував не сповільнення, а обов'язкову державну сертифікацію систем ще до виходу на ринок.

Дискусія спалахнула після гучного звільнення дослідника Anthropic Джейкоба Коксона, який звинуватив провідні лабораторії в безвідповідальному поспіху та заявив, що розробники в приватних розмовах припускають загрозу загибелі людства вже до кінця поточного десятиліття.