ИИ не раскроет человечеству правду, а усложнит её поиск — Харари

Искусственный интеллект не поможет человечеству лучше понять правду о мире. Наоборот, он может сделать информационную среду более сложной и затруднить отделение фактов от вымысла. Израильский историк, философ и футуролог Юваль Ной Харари считает, что эта проблема существовала задолго до появления ИИ, ведь человеческие общества создали сложные системы, которые трудно понять.

Харари ответил на вопрос журналиста Тома Паркера во время интервью на гала-вечере, посвященном 50-летию EDP, о том, становится ли человечеству труднее определять, что является правдой, в условиях распространения ИИ, дипфейков и другой синтетической информации. Он подчеркнул, что правда имеет фундаментальное значение, однако в борьбе с вымыслом находится в невыгодном положении.

По словам историка, поиск правды требует значительных ресурсов: чтобы проверить информацию, нужно потратить время, энергию и усилия на поиск фактов, их анализ и оценку. Вымысел, напротив, обходится значительно «дешевле», поскольку его можно создать без длительного исследования. Кроме того, правдивые объяснения часто сложны, тогда как выдуманную историю можно сделать простой и понятной.

Харари отметил, что правда также может быть болезненной для людей, поскольку заставляет их узнавать неприятные вещи о себе, своей стране или группе, к которой они принадлежат. Вымысел при этом можно сделать приятным, простым и льстящим его потребителю.

«Вымысел, как правило, побеждает, если мы не приложим особых усилий для защиты правды», — заявил историк.

Именно поэтому, по словам Харари, на протяжении истории люди создавали институты, призванные искать и защищать правду. К таким институтам историк отнес журналистику и научное сообщество.

По словам Харари, человек должен знать правду о своей жизни, чтобы понимать источники своих страданий и счастья. Даже большая власть или ресурсы не помогут быть счастливым, если человек не понимает себя и не знает, как использовать свои возможности.

В то же время Харари предостерег от ожиданий, что искусственный интеллект автоматически станет инструментом поиска истины. Он отметил, что «этого не произойдет», и добавил, что ИИ, напротив, создаст гораздо более сложный мир, в котором будет труднее определять правду.

По его мнению, это продолжает тенденцию, которая наблюдалась на протяжении всей истории человечества. От каменного века до современности люди накопили огромный объем знаний о физике, биологии, болезнях и природных процессах, но в то же время создали все более сложные системы.

Харари сравнил современного человека с охотником-собирателем, жившим 50 тысяч лет назад. Первобытные люди не знали причин миграции животных, циклов роста растений, болезней или старения, но гораздо лучше понимали непосредственную среду, от которой зависела их жизнь. Современный человек знает гораздо больше об этих природных процессах, однако его жизнь больше не зависит только от животных и растений, поскольку на нее влияют огромные системы, созданные самим человечеством.

В то же время консультант по вопросам устойчивой безопасности Чарльз Чанг заявил о падении коллективного интеллекта общества из-за избытка генеративного контента. Эксперт отмечает, что стремительный рост объемов текстов, фотографий и видео, созданных с помощью ИИ, порождает информационный шум, который перегружает мозг человека, подрывает способность отличать факты от вымысла и разрушает общее понимание реальности. В результате правительства и компании рискуют принимать ошибочные решения, полагаясь на цифровые иллюзии, вместо того чтобы анализировать реальное положение дел.