Сенатор США обвинил технологических миллиардеров в том, что они планируют заменить человечество

Берни Сандерс, представляющий штат Вермонт в Сенате США, заявил, что самые богатые люди Кремниевой долины готовы уступить машинам роль хозяев планеты. Он призвал приостановить развитие самого мощного искусственного интеллекта и запретить суперинтеллект, то есть систему, умнее любого человека, до тех пор, пока безопасность технологии не будет гарантирована федеральным органом. Об этом он написал в колонке для The Atlantic.

Законопроект с этими требованиями Сандерс внес совместно с конгрессменом Грегом Касаром. Сенатор убежден, что искусственный интеллект (ИИ) представляет экзистенциальную угрозу для человечества, и относиться к нему следует именно так.

В своей колонке Сандерс приводит заявления самых влиятельных людей отрасли. Глава OpenAI Сэм Альтман еще в 2017 году писал, что ИИ позволит людям стать «первым в мире видом, который сам проектирует своих потомков». По словам Альтмана, человечество либо превратится в вымирающую эволюционную ветвь, либо сумеет найти формулу успешного слияния с машинами. Он добавил, что слияние уже началось и, вероятно, это лучший из возможных сценариев.

Руководитель Anthropic Дарио Амодей, напоминает сенатор, допускает, что модели ИИ могут обладать правами. «Мы не знаем, есть ли у моделей сознание. Но допускаем, что оно может быть», — пояснил он.

В этом месяце глава SpaceXAI Илон Маск написал в соцсети X, что распространение суперинтеллекта к звездам служит «прекрасным условием успеха для биологического загрузчика». Таким образом он сравнил людей с программой, запускающей операционную систему компьютера. Сенатор интерпретирует это так: человечество для Маска — лишь ступенька на пути к цифровому суперинтеллекту.

Инвестор и соучредитель Palantir Питер Тиль в прошлом году на вопрос, хотел бы он, чтобы человечество уцелело, ответил неуверенно и после паузы неохотно согласился, что люди должны выжить.

По словам Сандерса, эти взгляды вытекают из трансгуманизма — идеологии, которая когда-то была маргинальной для Кремниевой долины. Её сторонники считают, что технологии позволят выйти за пределы человеческой природы: создать новый вид или объединить человека с машиной. Новые «постлюди», по их представлениям, будут умнее и безошибочны, покорят Вселенную и будут жить вечно. Если бы это были фантазии подростков, увлечённых научной фантастикой, над ними можно было бы посмеяться, пишет сенатор. Но это базовые убеждения самых влиятельных людей мира, которые привлекают триллионы долларов, чтобы воплотить их в жизнь.

Инвестиции уже дают результат, отмечает Сандерс. Десятки тысяч лет только люди пользовались языком, а тысячи лет только они решали сложные математические задачи. Ещё недавно можно было с уверенностью отличить, с кем общаешься через экран: с человеком или с компьютером. Теперь это не так. Машины, по его словам, уже начинают нас заменять.

Маск создает Neuralink, чтобы имплантировать чипы в мозг людей ради «симбиоза с искусственным интеллектом». Тиль переехал в Аргентину, где президент Хавьер Милей призвал создавать «нечеловеческие корпорации», которыми будут управлять ИИ-агенты. Соучредитель Anthropic Кристофер Олах, по словам сенатора, пытается убедить религиозных лидеров, в частности папу римского, что ИИ может обладать сознанием.

Сандерс называет эти планы абсурдными и безответственными и приводит статистику: 91 % американцев считают, что ИИ нуждается в предохранительных мерах, 74 % не доверяют руководителям ИИ-компаний, а 73% опасаются, что эта технология может угрожать выживанию человечества.

В мае папа римский Лев XIV обнародовал свою первую энциклику «Magnificent Humanity». В ней он предостерег от «античеловеческого видения», при котором человека сводят к данным, винтику в машине или товару. «Человечество, со всем его величием и уязвимостью, никогда не должно быть заменено или превзойдено», — подчеркнул понтифик. В ответ, пишет Сандерс, Тиль назвал папу «агентом китайских коммунистов». Однако прав понтифик, подчеркивает сенатор, а Тиль и остальные олигархи Big Tech ошибаются.

Человечество не должно позволить горстке мультимиллиардеров безрассудно пытаться заменить себя, подчеркивает Сандерс. Будущее, по его мнению, должны определять американцы и люди во всем мире, а не несколько олигархов, одержимых деньгами и властью. «Люди, а не машины, должны быть на первом месте», — написал он в конце колонки.

Руководитель Microsoft AI Мустафа Сулейман поддержал призыв генерального директора компании Сатьи Наделлы ввести «аварийный тормоз» для суперинтеллекта. За два дня до этого Белый дом обязал компании отчитываться о сбоях в работе таких систем. Ранее администрация полагалась преимущественно на добровольные обязательства отрасли.

Нобелевский лауреат Джеффри Хинтон предложил регулировать ИИ по аналогии с лекарствами: компании должны доказывать безопасность продуктов независимому государственному регулятору до их выпуска.

О том, почему поведение передовых моделей ИИ невозможно спрогнозировать без их запуска, в статье ZN.UA «Игра в рулетку с суперинтеллектом. Почему каждое обновление ИИ становится риском для цивилизации» пишет заведующий Научной лабораторией иммерсивных технологий и права Института информации, безопасности и права Национальной академии правовых наук Украины, доктор наук в области права Алексей Костенко.