«ИИ может убить всех до конца десятилетия»: заявления разработчиков Anthropic вызвали резонанс в США

В США всё больше законодателей требуют ужесточения регулирования искусственного интеллекта после резонансных заявлений двух исследователей компании Anthropic. Они предупредили, что развитие ИИ может представлять экзистенциальную угрозу для человечества уже в течение следующего десятилетия. На этом фоне в Конгрессе активизировалась работа над законопроектами о независимом аудите и проверке самых мощных моделей, сообщает Reuters.

Волна обсуждений началась после того, как исследователь Anthropic Джейкоб Коксон объявил об уходе и заявил, что «люди, создающие ИИ, искренне верят, что он может убить всех нас до конца десятилетия». Его коллега Эван Гюбингер поддержал эти слова, написав в соцсети X: «Мы действительно искренне верим, что ИИ может убить всех людей».

«Лично я считаю, что вероятность этого составляет более 10 % в течение следующего десятилетия», — отметил Гюбингер.

Законодатели призывают к действиям

На заявления исследователей отреагировали представители обеих американских партий. Сенатор-демократ от Аризоны Марк Келли написал в X, что «Вашингтон должен проснуться и отнестись к этому серьезно».

Сенатор-республиканец от Техаса Тед Круз заявил в эфире программы The View, что стране необходимо законодательство для регулирования «катастрофических рисков», связанных с ИИ. Он возглавляет сенатский комитет, осуществляющий надзор за Министерством торговли США, в котором работают специалисты по безопасности искусственного интеллекта.

Член Палаты представителей Анна Паулина Луна также призвала спикера Майка Джонсона созвать специальное заседание по ИИ после завершения парламентских каникул.

Позиция Трампа

Президент США Дональд Трамп заявил, что его больше беспокоит не риск вымирания человечества, а технологическое соперничество между США и Китаем. Он подчеркнул: «Меня беспокоит то, что если мы не победим в сфере ИИ, то окажемся в очень невыгодном положении. Сейчас мы опережаем Китай с довольно существенным отрывом».

Заявления разработчиков ИИ

Представитель Anthropic отметил, что компания продолжит активно тестировать свои модели на наличие опасных возможностей, в частности в сферах кибербезопасности и биологии, а также готова сотрудничать с другими компаниями в вопросах темпов выпуска новых систем. Между тем, по данным Bloomberg, генеральный директор OpenAI Сэм Альтман сообщил сотрудникам, что компания готова замедлить развитие своих моделей.

В последние дни об обеспокоенности быстрыми темпами развития отрасли заявили и другие специалисты. Бывший исследователь Google DeepMind Джош Энгельс сказал в интервью NBC: «Здесь нет никого, кто взял бы на себя роль ответственного взрослого».

Бывший руководитель исследовательской группы по безопасности Anthropic Джо Бентон также предупредил, что ИИ может развиваться «слишком быстро, и мы не успеем сориентироваться, если не начнем беспокоиться об этом уже сейчас». Оба в настоящее время работают в некоммерческой организации METR, которая оценивает потенциальные общественные риски современных моделей ИИ.

Подготовка законопроекта

Рост рисков, связанных с искусственным интеллектом, усилил давление на Конгресс США, активизировав разработку федеральных правил для технологических гигантов. Сенаторы Джон Тун и Эми Клобушар готовят двухпартийный законопроект по предотвращению «катастрофических рисков», который должен обязать разработчиков тестировать системы безопасности совместно с правительственными экспертами. Аналогичную инициативу выдвинула и Палата представителей: законодатели предлагают ввести обязательный аудит самых мощных моделей ИИ с участием аккредитованных Министерством торговли США специалистов.

Пока федеральное законодательство находится на стадии разработки, Калифорния уже приняла первый в стране профильный закон. Губернатор Хэвин Ньюсом подписал документ, вводящий проверку ИИ-продуктов независимыми аудиторами. Инициативу поддержала компания OpenAI, а эксперты по технологическому праву отмечают, что именно внешняя предварительная оценка систем до их выхода на рынок является ключевой для минимизации угроз.

Ранее один из «крестных отцов» ИИ Джеффри Хинтон также оценил вероятность уничтожения человечества из-за развития ИИ примерно в 10%, подчеркнув, что время до возможной катастрофы стремительно сокращается. По его прогнозу, опасный суперинтеллект может появиться уже в течение ближайшего десятилетия или даже раньше.