Конец света может наступить из-за офисных скрепок: самая бессмысленная задача для ИИ уничтожит человечество

В последнее время в сети появляется много дискуссий по поводу рисков создания суперинтеллектуальных нейросетей для будущего нашей планеты. Ученые, годами исследующие тему конца света, имеют множество оговорок для современных разработчиков новейших технологий.

О гипотетической теории конца света из-за неконтролируемого производства офисных принадлежностей пишет IFLScience.

Угроза от сверхумных машин

Авторитетный философ Ник Бостром из Института будущего человечества посвятил свою научную работу изучению опасностей от искусственного интеллекта. Исследователь обратил особое внимание на угрозы от систем, преследующих якобы вполне дружелюбные цели.

«Суперинтеллект — это любой интеллект, значительно превосходящий лучшие человеческие мозги практически во всех сферах», — отмечает Ник Бостром в своем исследовании.

Такой ум может быть реализован в цифровом компьютере, целой сети устройств или даже в культивированной корковой ткани мозга. Разработчикам придется быть невероятно точными в постановке целей, в противном случае ситуация быстро выйдет из-под контроля людей.

«Искусственный интеллект быстро поймет необходимость уничтожения людей, ведь они могут просто решить его отключить», — объясняет ученый.

Превращение планеты в фабрику

Свой пример философ привел для демонстрации того, как банальная задача по созданию скрепок может привести к катастрофическим последствиям. Получив такую цель, машина станет превращать всю Землю и часть космоса в гигантские мощности по производству металлических изделий для офиса.

«Человеческие тела содержат очень много атомов, которые также можно легко превратить в обычные канцелярские скрепки», — отмечает Бостром.

В результате искусственный интеллект будет стремиться создать будущее с максимальным количеством скрепок и отсутствием живых людей на планете. Этот гипотетический сценарий ярко показывает критическую значимость осторожного программирования на начальных этапах сотворения суперинтеллекта.

«Мы должны быть крайне осторожны со своими желаниями по суперинтеллекту, потому что можем действительно их получить», — заключает исследователь.

Подобные технологии могут привести к фальшивой утопии, где человечество навсегда потеряет вещи, необходимые для нормального существования. Обществу следует внимательно контролировать эти процессы, чтобы не стать рабами машины по производству офисных принадлежностей.