Google DeepMind запускає інститут для розширення дискусії щодо загального ШІ

Дослідники Google та Google DeepMind у середу запустили Інститут DeepMind для просування дискусії щодо загального штучного інтелекту (ЗШІ). Директорами інституту є співзасновник DeepMind Шейн Легг, виконавчий директор Google Джеймс Маньїка та голова Google DeepMind Деміс Хассабіс, а Легг обіймає посаду головного редактора. 

Новий інститут має на меті виявити різні погляди між Google, Google DeepMind та ширшою світовою дослідницькою спільнотою щодо ЗШІ. «Вони не завжди будуть погоджуватися, і, ймовірно, змінять свою думку, оскільки на швидкозмінному фронті з’являтиметься більше даних та інформації», – йдеться в оголошенні.

Перша збірка з чотирьох есе охоплює низку тем: економічну політику для управління потенційними порушеннями розвитку штучного інтелекту (ЗШІ), збереження зрозумілого для людини моделювання, принципи процвітання людства та основу для оцінки передових моделей ШІ. 

В одному есе , написаному дослідниками безпеки DeepMind Рохіном Шахом та Анкою Драган, стверджується, що зменшення вікна прозорості ШІ — здатності бачити та перевіряти покрокове міркування моделі — не є неминучим. Оскільки нові архітектури ускладнюють моніторинг найпотужніших моделей , автори кажуть, що розробники та регулятори повинні безпосередньо зіткнутися з компромісами щодо безпеки. Це може означати обмеження «непрозорої послідовної глибини» — обсягу послідовних обчислень, які модель може виконувати, не створюючи читабельного сліду міркування — або вимогу від розробників продемонструвати, що менш прозорі системи залишаються такими ж моніторинговими.

В іншому есе Хассабіс пропонує створити орган зі стандартизації передового штучного інтелекту під керівництвом США для оцінки найсучасніших моделей ШІ. Згідно з його структурою, розробники спочатку добровільно подаватимуть моделі на розгляд до 30 днів до випуску. Після того, як система оцінювання доведе свою ефективність, проходження її випробувань може стати вимогою для розгортання передових моделей у Сполучених Штатах.

Спочатку цей орган розроблятиме оцінки у співпраці з компаніями, що займаються штучним інтелектом, але зрештою розробить незалежні, нерозкриті оцінки — те, що в есе називають «прихованим» тестуванням — щоб запобігти адаптації лабораторій до відомих оцінок. Хассабіс сказав, що фреймворк можна «посилити, якщо цього вимагатиме серйозність ситуації», можливо, включаючи скоординоване уповільнення серед передових розробників штучного інтелекту. 

Ці есе з'являються на тлі того, як дебати щодо безпеки в галузі зміщуються від загальних заяв про занепокоєння до конкретних пропозицій щодо розкриття інформації, зовнішнього контролю та, у разі відставання запобіжних заходів, скоординованого уповільнення. Цей зсув прискорився цього тижня, оскільки лідери галузі підтримали елементи заклику генерального директора Anthropic Даріо Амодея «прискорити» розвиток передового штучного інтелекту.