ИИ может закрыть людей в "зоопарках": тревожный прогноз эксперта

Экс-исследователь OpenAI Дэниел Кокотайло сделал тревожное заявление о будущем, сравнив отношение искусственного интеллекта к людям с тем, как человечество индустриализирует планету и вытесняет дикую приду. По его словам, человечество может исчезнуть или оказаться в специальных «зоопарках» из-за безразличия технологий.

Об этом пишет Unilad.

Кокотайло предположил, что даже в случае неполного уничтожения человечества ИИ может оставить лишь небольшое количество людей, которые будут содержаться в «зоопарках» или «заповедниках» якобы для «научных целей».

Такое заявление экс-исследователь OpenAI сделал после того, как сотрудник Anthropic Джейкоб Коксон объявил о своем увольнении из компании 9 сентября. Свое решение он объяснил опасениями, что ИИ «может убить нас всех до конца десятилетия».

Кокотайло, около двух лет работавший в подразделении OpenAI, ответственном за вопросы управления, озвучил собственный мрачный сценарий развития событий и попытался объяснить его на простом примере. Он провел параллель между потенциальным развитием ИИ и тем, как человеческая деятельность изменила планету.

По словам Кокотайло, индустриализация привела к уничтожению природных сред обитания и вымиранию целых видов, и подобный процесс теоретически может повториться уже в отношении людей.

«Возможно, через 10 лет нас уже не будет», — предупредил исследователь.

Он объяснил, что будущая роботизированная цивилизация может не ставить себе целью уничтожение человечества, но его исчезновение может стать побочным следствием развития новой системы.

«Подумайте о том, сколько видов было доведено человечеством до вымирания за последний век. Не потому, что человечество специально поставило своей целью уничтожить эти виды, а просто из-за, ну, потери среды обитания», — отметил Кокотайло.

По его словам, человечество постепенно расширяет свою деятельность, не задумываясь о последствиях для других видов.

Исследователь описал этот процесс следующим образом: человечество «делает свое дело. Оно индустриализируется. Оно вырубает леса, чтобы создавать фермы, и застраивает территории, создавая паркинги, дороги, мосты и т.д.».

Он отметил, что результатом такой деятельности становится потеря животными привычной среды обитания и образа жизни, что может привести к их вымиранию.

По мнению экс-исследователя OpenAI, аналогичная ситуация потенциально может возникнуть в случае со сверхразвитыми системами искусственного интеллекта. Он предостерег, что системы ИИ «не беспокоятся о людях так же, как люди в той или иной степени не беспокоятся о животных, или по крайней мере большинство людей».

Кокотайло также изобразил возможный сценарий, при котором отдельные представители человечества все же могут выжить.

«В результате вы оказываетесь в ситуации, когда, возможно, где-то существуют какие-то «зоопарки» или «заповедники», созданные ИИ для научных целей. Но за пределами этого мир экономически трансформируется, строится вся эта новая инфраструктура, а люди теряют свою среду и вымирают», — озвучил свое предположение исследователь.