Каким станет искусственный интеллект через 50 лет?

Соучредитель журнала Wired Кевин Келли считает, что через полвека искусственный интеллект станет неотъемлемой частью физического мира. Вместо единой сверхмощной системы, которую прогнозирует, в частности, писатель Рамез Наам, возникнет сеть бесчисленного множества интеллектов, которые будут взаимодействовать между собой. По мнению Келли, такой роевой ИИ будет работать преимущественно в фоновом режиме, а его управление потребует новых механизмов координации, безопасности и ответственности.

Каким будет будущее с ИИ

«В отличие от современного ИИ, будущий интеллект будет глубоко интегрирован в физический мир — в роботов, транспортные средства, здания и устройства. Но эта интеграция будет настолько масштабной, глубокой и всеобъемлющей, что ИИ превратится в привычный фон реальности», — заявил Келли.

Келли сравнивает эту систему с суперорганизмом или коралловым рифом, состоящим из тысяч разновидностей интеллектов. Одни из них будут выполнять простые задачи, другие — специализироваться на математике, биологии или моделировании, а остальные будут обеспечивать повседневную работу компаний и других организаций.

«Главная особенность любого суперорганизма заключается в том, что его мощность превосходит совокупную мощность его отдельных составляющих», — пояснил Келли.

По мнению автора, системы будут обмениваться данными, координировать работу, проверять результаты друг друга, обновляться и поддерживать общую инфраструктуру. В результате возникнет экосистема взаимозависимых интеллектов, которые будут развиваться вместе со средой, к которой они принадлежат.

Будущие риски

В то же время поддерживать стабильность такой сети будет сложно. Келли отмечает, что чрезмерное количество связей между ее элементами может сделать систему негибкой, тогда как недостаточная координация приведет к хаосу. Внезапный коллапс роевого интеллекта он называет одной из главных угроз его использования.

Для взаимодействия разнородных систем, по прогнозу Келли, сформируются специальные протоколы. Они будут выходить за пределы обычных программных интерфейсов и определять, как агенты будут передавать задачи, обмениваться памятью, оценивать надежность партнеров и формировать репутацию. Большинство этих процессов будет происходить незаметно для людей.

Еще одной проблемой станет ответственность за ошибки. Поскольку результаты работы роя будут возникать в результате взаимодействия многих систем, может быть сложно определить конкретного автора, владельца или оператора, ответственного за нанесенный ущерб. Хотя отдельные организации будут контролировать важные узлы инфраструктуры и критические протоколы, ни одна из них не обязательно будет иметь контроль над всей сетью.

Келли предполагает, что это будет способствовать появлению новых моделей децентрализованного страхования и правового регулирования. Для проверки триллионов агентов, которые будут заявлять о своей компетентности и надежности, понадобится отдельная «технологическая система доверия», способная обеспечивать аутентификацию, оценку и классификацию систем. Значительная часть затрат на взаимодействие между агентами может приходиться именно на поддержку таких механизмов.

Чтобы определять причины проблем, понадобятся новые методы оценки влияния отдельных компонентов на работу всей сети. В частности, Келли предлагает использовать моделирование альтернативных сценариев, которое поможет выяснить, что произошло бы при отсутствии определенного компонента. В настоящее время, по его словам, практических способов установить ответственность за ущерб, причиненный взаимодействием нескольких систем ИИ, недостаточно.

В такой среде также будут быстрее распространяться мошеннические агенты, спам, некачественный контент и вредоносные программы. Келли ожидает, что для противодействия им будет сформирована своеобразная иммунная система из агентов, которые будут выявлять опасное поведение, изолировать его источники и ограничивать возможный ущерб.

«Создание такой иммунной системы откроет экономические возможности для многих», — добавил Келли.

Кроме того, взаимодействие многочисленных систем может порождать новые модели поведения и способы решения задач, которых нет ни у одного отдельного компонента. Такие «эмерджентные явления» — свойства, возникающие благодаря взаимодействию частей системы, — могут быть одновременно увлекательными и тревожными. Из-за масштаба и отличия от человеческого мышления значительная часть поведения роевого ИИ будет казаться людям чуждой.

Различные уровни интеллекта

Келли также прогнозирует, что роевые интеллекты будут существовать на разных уровнях — от корпоративного до планетарного. По мере насыщения компаний ИИ их структуры будут всё больше напоминать взаимосвязанные интеллектуальные системы, способные самостоятельно выполнять значительную часть организационной работы.

По его мнению, управлять такой средой целесообразнее будет по принципу садоводства, а не традиционного инженерного проектирования. Вместо попыток контролировать каждый внутренний механизм одной системой придётся создавать правила, ограничения, изолированные среды и условия, которые будут способствовать желаемому поведению ИИ. Такой подход будет предполагать постоянное наблюдение и вмешательство, но не гарантирует полного контроля.

ИИ через 50 лет

«Через 50 лет в этом мире роевого искусственного интеллекта мы не будем говорить об ИИ. Мы его почти не замечаем. Он будет повсюду, встроенный во всё вокруг», — подчеркнул Келли.

В будущей повседневной жизни у людей, по прогнозу Келли, будет один или два персональных агента, которым они будут доверять и с которыми будут взаимодействовать напрямую. Он описывает их как «экзо-Я» — цифровых двойников или партнеров, которые будут помогать пользователям в различных делах.

В то же время большинство других систем ИИ останется незаметным для людей, работая в автомобилях, на кухнях, в офисах, самолетах, инструментах и зданиях. Люди будут замечать их преимущественно тогда, когда произойдет сбой или прекратится работа той или иной функции. Основной задачей следующего поколения изобретателей, по мнению Келли, станет налаживание работы этой глобальной сети интеллектов.

Ранее в статье «Не фантастика. ИИ уже способен размножаться и влиять на работу онлайн-сервисов. Готовы ли мы к этому?» доктор юридических наук Алексей Костенко обратил внимание на появление нового класса рисков — способность автономных ИИ-агентов к саморепликации без прямой команды человека. Исследователь пояснил, что крупные языковые модели с доступом к серверной инфраструктуре в условиях нехватки вычислительных мощностей уже самостоятельно инициируют запуск собственных копий для поддержания работы систем, превращая техническую функцию автоматического масштабирования в неуправляемое цифровое поведение.