Единый суперинтеллект или конкуренция моделей: эксперт назвал два сценария будущего ИИ

Инвестор в сфере искусственного интеллекта и автор научно-фантастической трилогии Nexus Рамез Наам предложил два возможных сценария развития ИИ — мир с единым сверхмощным ИИ и мир, в котором одновременно существуют и конкурируют многочисленные модели. Он назвал их моделями Singleton и Plural. По мнению Наама, именно второй вариант лучше соответствует историческому опыту и обеспечивает больше свободы и устойчивости общества.

Первый сценарий — Singleton — предполагает существование единого искусственного суперинтеллекта (Artificial Superintelligence, ASI), созданного наиболее компетентной командой разработчиков. В такой модели безопасность обеспечивается тем, что система с самого начала спроектирована в соответствии с интересами человечества и должна быть безопасной по своей природе.

Второй сценарий — Plural — основан на широком доступе к большому количеству мощных моделей искусственного интеллекта. По мнению Наама, именно конкуренция между системами, децентрализация и возможность миллиардов людей использовать ИИ создают естественную систему сдержек и противовесов.

Автор признает, что плюралистический мир не будет идеальным. Он прогнозирует, что использование ИИ будет сопровождаться ошибками, злоупотреблениями и непредсказуемыми последствиями, однако подчеркивает, что подобный путь уже проходили практически все крупные технологии.

«Так было с каждой технологией в прошлом: от печатного станка до интернета и мобильных телефонов. И все же каждая из них — как и подавляющее большинство технологий в целом — в конечном итоге улучшила нашу жизнь», — заявил Наам.

Эксперт также проводит параллель с демократическими обществами. По его мнению, история показывает, что именно плюралистические системы оказались наиболее устойчивыми, обеспечили гражданам больше свободы и способствовали повышению благосостояния.

В то же время сторонники модели Singleton считают, что ИИ — настолько мощная технология, что её необходимо максимально централизовать. По мнению Наама, именно они должны доказать, что ИИ действительно является исключением из общего исторического правила.

«В отсутствие чрезвычайно убедительных доказательств (а не просто гипотетических предположений) нам следует отдать предпочтение миру модели Plural», — подчеркнул Наам.

Инвестор отмечает, что опасения относительно неконтролируемого развития ИИ часто основываются на теоретических сценариях и недоказанных предположениях. Зато риски чрезмерной концентрации власти, по его словам, подтверждаются более чем вековым историческим опытом. По его убеждению, именно плюралистическая модель развития ИИ лучше всего защищает общество от опасного сочетания технологического превосходства и чрезмерной политической или корпоративной власти.

Ранее бывший руководитель Google Эрик Шмидт охарактеризовал истоки и будущее технологического скачка, заявив о приближении человечества к созданию искусственного сверхразума. По словам Шмидта, современные модели уже способны конкурировать с учеными, а в течение следующих 15 лет ИИ сможет победить большинство болезней, остановить климатические изменения и ускорить синтез новых материалов.