Глава OpenAI: мир должен принять определенные риски, связанные с ИИ, ради его преимуществ

Генеральный директор OpenAI Сэм Альтман заявил о фундаментальных разногласиях с конкурирующей компанией Anthropic в подходах к регулированию искусственного интеллекта. Он считает, что общество должно принять на себя часть рисков, связанных с этой технологией, чтобы извлечь из неё максимальную пользу. В то же время Альтман подчеркнул, что не готов мириться с катастрофическими сценариями и потерей контроля над ИИ.

«Мы считаем, что мир должен смириться с тем, что будут происходить и негативные вещи — ради преимуществ этой технологии и возможности людей самостоятельно ею распоряжаться», — заявил Альтман в интервью для рубрики Decoded издания Politico и добавил, что между OpenAI и Anthropic существуют «существенные разногласия».

Anthropic долгое время считалась одним из самых активных сторонников регулирования ИИ в отрасли, тогда как OpenAI выступала за более мягкий подход. Однако в последние месяцы позиции компаний частично сблизились из-за громких хакерских атак автономных агентов и случаев непредсказуемого поведения моделей OpenAI, таких как взлом платформы Hugging Face. В прошлом месяце Альтман поддержал призыв генерального директора Anthropic Дарио Амодея о замедлении разработки самых мощных моделей ИИ.

Несмотря на это, генеральный директор OpenAI пытался провести грань между подходом своей компании и позицией Anthropic. Он упомянул критику в адрес «захвата регулятора» — обвинение, которое технологические советники из окружения президента США Дональда Трампа выдвигали в адрес Anthropic.

«Я не согласен с этим, но понимаю логику людей, которые рассуждают так: “Эта технология станет настолько мощной и опасной, что только одна лаборатория в Сан-Франциско должна ею владеть, гарантировать отсутствие негативных последствий и решать, как распределять полученные выгоды”», — отметил Альтман и назвал такой подход «совершенно неприемлемым компромиссом», который противоречит поддерживаемой OpenAI модели регулирования с минимальным вмешательством.

Альтман добавил, что не согласился бы на «обмен», при котором компания гарантировала бы отсутствие масштабных сбоев, злоупотреблений ИИ, мошенничества или других негативных последствий. Он подчеркнул: «Я считаю, что люди будут делать гораздо больше — на порядки больше — полезного, чем вредного». В Anthropic в ответ заявили, что их предложения по регулированию касаются только передовых моделей.

В то же время глава OpenAI отметил, что существуют угрозы, с которыми он не готов мириться. В частности, речь идет о «действительно катастрофических рисках», среди которых Альтман назвал возможность «серьезной потери контроля над ИИ».

Заявление Альтмана прозвучало на фоне создания в США рабочей группы Super Intelligence Force, в руководство которой вошли представители Национальной разведки, Пентагона, Федеральной торговой комиссии и Управления по кадрам. Новая структура призвана координировать политику федерального правительства в сфере ИИ, регулировать отношения с бизнесом и защищать технологическое лидерство США в противостоянии с Китаем.

Напомним, что ранее Трамп переименовал «искусственный интеллект» в «суперинтеллект» и призвал использовать именно это название во всех официальных документах. Президент США называл опасения об угрозе человечеству “фейком” и попыткой лишить Вашингтон лидерства в противостоянии с Китаем. Трамп провозгласил ИИ и дата-центры «нефтью следующих 20–25 лет», заявив, что победа в технологической гонке гарантирует глобальное доминирование страны.