«ИИ достиг уровня человека?»: ученый считает, что решать это должны не разработчики

Руководители крупнейших ИИ-корпораций утверждают, что уже весной появится искусственный интеллект нового уровня, который сравняется с человеческим. Однако это должны определять независимые эксперты по заранее согласованным критериям. Полагаться только на заявления компаний, от которых зависят их инвестиции и стоимость, недостаточно. Об этом в статье «AGI на пороге? Как проверить, достиг ли искусственный интеллект уровня человека» пишет учёный Алексей Костенко.

В частности, о том, что человечество вступает в эру всеобщего искусственного интеллекта (AGI), недавно заговорили президент OpenAI Грег Брокман и глава NVIDIA Дженсен Хуанг. Поводом для такого заявления стала презентация новых моделей GPT-6 Astra и Claude Fable 5.1. По словам Костенко, это первый случай, когда об AGI заговорили не в будущем, а в настоящем времени.

«Если от слова AGI зависят деньги, ответственность и международные обязательства, решать это должен не тот, кто продает продукт. Нужна независимая проверка. И часть кирпичиков для нее уже существует», — пишет автор.

Государственные институты по безопасности искусственного интеллекта в США и Великобритании уже тестируют модели до их выхода на рынок. Весной Google DeepMind, Microsoft и xAI согласились предоставлять американскому центру CAISI ранний доступ к своим моделям, а Anthropic и OpenAI уже сотрудничают с ним в рамках обновленных соглашений. Более 100 ученых из разных стран готовят Международный доклад о безопасности искусственного интеллекта. Организация Объединенных Наций в феврале этого года даже сформировала Независимую международную научную группу по ИИ. Кроме того, исследователи уже описали технические способы проверки международных соглашений по ИИ: от контроля за вычислительными мощностями до защищенных сред для тестирования.

«Но эти элементы не объединены в систему. Поэтому, на мой взгляд, стоило бы создать Международный реестр пороговых возможностей ИИ. Он должен отвечать на четыре вопроса», — отмечает Костенко.

Первый вопрос: кто проводит проверку? По мнению автора, это не может быть одна организация. Проверкой должен заниматься консорциум из государственных институтов безопасности ИИ разных стран, ученых из группы ООН и независимых лабораторий, таких как METR и ARC. Причем ни один из участников такого консорциума не должен иметь финансовых связей с компанией, которую проверяют

Второй вопрос: что проверяют? Костенко убежден, что необходимо заранее обнародовать набор критериев, в частности, результаты тестирований по различным составляющим интеллекта, продолжительность задач, которые система выполняет самостоятельно, способность решать совершенно новые задачи и склонность к опасным действиям. Порог AGI также нужно определить заранее, а не после того, как она будет готова.

Третий вопрос: как получают доступ? По мнению автора, необходимо разработать закон, согласно которому компания будет обязана немедленно уведомить организацию, ведущую реестр, как только её внутренняя модель ИИ превысит установленный порог.

«Даже если эту модель не планируют продавать. Тестирование проходит в защищенной среде: модель не покидает серверов разработчика, а проверяющие видят только ее ответы. Так защищают и коммерческую тайну, и честность проверки», — добавляет автор.

Четвертый вопрос заключается в том, почему этим выводам можно будет доверять? Костенко считает, что часть тестов необходимо держать в секрете, чтобы модель нельзя было «подготовить к экзамену». При этом важно, чтобы одни и те же тесты проводили одновременно как минимум две команды из разных стран. Методику, по мнению автора, следует публиковать в такой форме, чтобы она была понятна обществу. Так уже работают, например, международные инспекции ядерных объектов. Ведь, как подчеркивает Костенко, доверие возникает не из обещаний, а из повторяющихся проверок.

«Украине стоит участвовать в создании такого механизма уже сейчас. Страна без собственных мощнейших моделей и без места за столом переговоров рискует получить AGI как свершившийся факт — с чужими определениями и чужими правилами», — отмечает автор.

Напомним, Google DeepMindобъявила о создании DeepMind Institute — исследовательской платформы для разработки стандартов безопасности и контроля за развитием AGI. Одной из первых инициатив института, которуюранее предложил Гассабис, стала возможность введения независимого тестирования самых мощных моделей за 30 дней до их релиза с перспективой сделать такую проверку обязательным условием для выхода на рынок США.