«Крестный отец» ИИ призвал создать для этой технологии аналог медицинского регулятора FDA

Лауреат Нобелевской премии по физике Джеффри Хинтон, которого часто называют «крестным отцом искусственного интеллекта», предложил регулировать ИИ по аналогии с лекарственными средствами. По его мнению, компании должны доказывать безопасность своих продуктов независимому государственному регулятору до их выпуска. Об этом ученый рассказал в подкасте Smart Girl Dumb Questions.

«Искусственный интеллект следует регулировать так же, как мы регулируем лекарственные средства», — передал Хинтон основную мысль астрофизика Макса Тегмарка и добавил, что новые лекарства нельзя просто выпустить на рынок, а потом проверять, безопасны ли они.

По мнению ученого, перед выпуском продуктов компании должны убедить государственный регулирующий орган в их безопасности. В случае с лекарствами такую функцию выполняет Управление по контролю за продуктами и лекарствами США (Food and Drug Administration, FDA).

«Для этого нужно проделать огромный объем работы — на сумму около миллиарда долларов. Кажется, это минимум, который должен быть введен и для ИИ», — заявил Хинтон.

В то же время учёный признал, что создание крупной регуляторной структуры по типу FDA требует времени. По его словам, это противоречит необходимости действовать в отношении рисков ИИ «очень и очень быстро».

Гинтон провел аналогию с борьбой против изменения климата, отметив, что власти начали действовать только после того, как общество осознало вред от сжигания ископаемого топлива и оказало ощутимое давление на политиков. По его мнению, ситуация с технологиями развивается по схожему сценарию.

«Сейчас мы видим, что общественность начинает оказывать давление на политиков, требуя принятия мер в отношении ИИ», — подчеркнул ученый, назвав это обнадеживающим сигналом.

Между тем компании OpenAI, Anthropic и Google начали переговоры о создании совместного органа для установления стандартов безопасности и предварительной проверки передовых моделей ИИ. По замыслу инициатора идеи, бывшего главы Google DeepMind Демиса Гассабиса, структура должна работать по образцу американского финансового регулятора FINRA — то есть финансироваться самими технологическими гигантами, но действовать под государственным надзором.