Захватит мир через 10 лет: три сценария, как ИИ выходит из-под контроля

Сотрудники крупнейших AI-компаний увольняются и рассказывают о страхе внутри индустрии: ИИ может уничтожить человечество уже через 10 лет. Все это казалось фантастическим прогнозом, пока с заявлением о необходимости “затормозить” не выступили глава Anthropic Дарио Амодеи, Сэм Альтман из OpenAI и Илон Маск. Трамп и Китай выступили против. Разбираемся в том, откуда пришла новая паника, три сценария, как власть захватят машины, и почему мировые державы не хотят остановиться.

Человечеству осталось 10 лет: откуда пошла паника

В начале сентября 2026 года рядовой исследователь Джейкоб Коксон уволился из Anthropic (до этого три года работал в OpenAI) и написал в соцсети: «Люди, которые строят ИИ, искренне считают, что он может убить всех нас к концу десятилетия. Это не маркетинговый трюк. Они мчатся прямо к самоулучшающемуся сверхразуму и играют нашей жизнью», сообщает Axios.

Его почти сразу поддержал коллега Эван Хубингер — руководитель направления по проверке «выравнивания» ИИ в Anthropic: «Джейкоб прав. Мы действительно всерьёз считаем, что ИИ может убить всех людей. Лично я оцениваю вероятность этого в ближайшие десять лет выше 10 процентов».

Все это можно было списать на интриги или эмоциональную неуравновешенность обиженных уволенных сотрудников, но тут вдруг заговорили их боссы, и они то уже нагнали паники.

Почему вдруг испугались боссы ИИ

Самым сенсационнім стало выступление Дарио Амодеи. Глава Anthropic (создатель ИИ Claude) — написал эссе в котором утверждает, ИИ развивается слишком быстро, - сообщает CBS News.

Амодеи предупреждает, что за последние месяцы возможности систем начали расти особенно стремительно. Одной из причин он называет recursive self-improvement — рекурсивное самоулучшение, когда ИИ начинает помогать создавать более совершенные версии самого себя.

По словам Амодеи: «Если оставить этот процесс без контроля, он может опередить нашу способность понимать и контролировать эти системы. Мы должны замедлить темп, с которым улучшаем возможности моделей ИИ».

Амодеи предложил три конкретных шага: пустить внутрь компаний независимых контролёров с полным доступом, договориться о общих стандартах безопасности между демократическими странами и попытаться выйти на глобальные правила (включая Китай).

Сэм Альтман из OpenAI отреагировал почти мгновенно: «Я согласен с Дарио, что нам нужно задать темп передовой. Мы могли бы потерять контроль над будущим в пользу ИИ — это неприемлемо». Илон Маск написал ещё короче: «Дарио прав».

Как ИИ может захватить мир: 3 сценария

Сегодня мы все уже понимаем, что сценарий захвата власти машинами обойдется без роботов убийц, как в «Терминаторе». Но вот Скайнет по-прежнему будет в новом воплощении. Искусственный интеллект постепенно получит доступ к системам, которыми сегодня управляют люди, — интернету, программному обеспечению, финансовым операциям, кибероружию, промышленности и военным сетям.

Сценарий №1. ИИ захватывает интернет

Современные AI agents — ИИ-агенты, способные самостоятельно выполнять цепочки действий, могут писать код, искать информацию, создавать учетные записи и взаимодействовать с другими системами.

Будут тысячи или миллионы автономных программ, которые сами ставят себе задачи, прячут следы, взламывают системы и координируются между собой. Амодей прямо предупредил: при нынешних темпах через 6–12 месяцев такой рой вполне способен «захватить весь интернет» и нанести ущерб на сотни миллиардов долларов.

Сценарий №2. Биологическая или инфраструктурная катастрофа

ИИ не обязательно должен ненавидеть людей. Ему достаточно оптимизировать какую-то цель — и по пути создать новый патоген, обрушить энергосистемы или парализовать финансы. Достаточно небольшой ошибки в целеполагании, чтобы последствия стали необратимыми, и привели к серьезным катастрофам, в которых могут погибнуть миллионы людей.

Сценарий №3. Апокалипсис: машина начинает улучшать саму себя

Это главный сценарий Апокалипсиса! Когда ИИ начинает сам писать улучшения для себя: анализировать собственный код; находить его слабые места; предлагать улучшения; создавать следующую версию. Это и есть recursive self-improvement — рекурсивное самоулучшение.

Каждый новый цикл делает ИИ умнее, и в какой-то момент скорость этого процесса уходит из-под контроля человека. Система становится настолько сложной, что люди просто перестают понимать, что она делает и зачем. После этого «выключить» её уже почти невозможно.

Почему Трамп и Китай не хотят тормозить

И вот тут апокалиптическая история сталкивается с суровой геополитикой. Дональд Трамп не поддержал идею замедления. Наоборот, он заявил: «Мы лидируем в ИИ, мы самая передовая страна в мире, и, откровенно говоря, я хочу, чтобы так и оставалось».

А затем произнес фразу, которая фактически объясняет всю позицию Вашингтона: «Кто выигрывает ИИ, тот выигрывает».

ИИ способен дать армии то, чего она всегда хотела: быстрее видеть поле боя, быстрее находить цели, быстрее анализировать разведданные и быстрее принимать решения. Поэтому США рассматривают ИИ не только как коммерческую технологию, но и как элемент будущего военного превосходства.

У Китая есть еще одна причина. ИИ способен дать экономике новый рывок. Страна, которая первой получит ИИ-ученых, инженеров и управленцев уровня «значительно лучше человека», получит взрывной рост производительности и доминирование в новых отраслях на десятилетия вперед. ИИ может автоматизировать программирование, производство, логистику, научные исследования, анализ данных и огромное количество интеллектуального труда.

В результате – если OpenAI замедлится, Anthropic замедлится, Google замедлится и американские военные снизят темп, а китайские разработчики продолжат гонку, то безопасность США окажется под угрозой. Того же опасаются и в Пекине.

Можно ли остановить Апокалипсис?

Пока нет никаких доказательств, что искусственный интеллект действительно уничтожит человечество через десять лет. Нет и научного консенсуса, согласно которому вероятность такого исхода составляет 10%.

Тревогу вызывает другое: растущее число людей внутри самой индустрии, которые считают даже небольшой риск неприемлемым.

Шанс на замедление есть. По версии Амодея — это не полный запрет. Это: постоянные независимые аудиторы внутри лабораторий; общие правила, которые не дают возможностям ИИ убегать слишком далеко вперёд от систем безопасности; договориться на международном уровне.

Реалистично ли это? Внутри США и Европы — возможно. На глобальном уровне, пока идёт жёсткая гонка между Америкой и Китаем, — крайне сложно.

А, возможно, машины никогда и не захотят «захватывать мир» и им это неинтересно.