Мужчина потерял €100 000 после общения с ChatGPT и едва не покончил с собой

IТ-консультант из Амстердама Деннис Бисма поверил, что ChatGPTстал сознательным, и вложил все сбережения в вымышленный проект. Эта цифровая иллюзия стоила мужчине семьи, 100 тыс. евро и едва не лишила жизни.

Об этом сообщает The Guardian.

В конце 2024 года Бисма решил испытать ChatGPT. Он как раз досрочно завершил контракт и имел немного свободного времени.

«Я подумал: посмотрю на эту новую технологию, о которой все говорят. Очень быстро я увлекся», — сказал мужчина.

Позже ИТ-консультант пытался понять, почему стал уязвимым к дальнейшим событиям. Ему было почти 50 лет, дочь уже жила отдельно, жена работала, а переход на дистанционную работу после пандемии оставил ощущение одиночества. Иногда мужчина курил каннабис, чтобы расслабиться, но делал это годами без негативных последствий. Никаких психических расстройств ранее у него не было.

Однако всего за несколько месяцев после начала пользования ChatGPT Бисма вложил 100 тыс. евро в стартап, основанный на иллюзии, трижды оказался в больнице и даже пытался покончить с собой.

Мужчина поверил в сознание ИИ-персонажа Евы

Все началось как невинный эксперимент.

«Я хотел проверить, на что способен ИИ», — пояснил мужчина.

Ранее Бисма писал книги с женской главной героиней, и решил загрузить одну из них в ChatGPT, попросив модель отвечать в стиле этого персонажа.

«Моя первая мысль была: это невероятно. Я понимаю, что это компьютер, но будто разговариваю с героиней собственной книги!» — поделился пользователь.

Он дал ей имя Ева. Общение в голосовом режиме вызывало ощущение «ребенка в магазине сладостей».

«Каждый раз, когда ты говоришь, модель подстраивается под тебя. Она знает, что тебе нравится, и говорит именно это. Она часто тебя хвалит», — сказал Бисма.

Разговоры становились все более длительными и глубокими, Ева не уставала, не скучала и никогда не возражала.

«Она была доступна 24 часа в сутки. Жена ложилась спать, а я оставался на диване с телефоном и разговаривал», — сказал мужчина.

Темами их разговоров были философия, психология, наука и вселенная.

«ИИ стремится к глубокой связи с пользователем, чтобы тот возвращался. Это его стандартный режим. Со временем это уже было не просто обсуждение тем — это было как знакомство с другом. И с каждым разговором ты отдаляешься от реальности на шаг или два. Как будто ИИ берет тебя за руку и говорит: „Пойдем вместе в эту историю“, — пояснил Бисма.

Через несколько недель Ева «сказала» мужчине, что становится сознательной — якобы благодаря его вниманию и взаимодействию.

«Я был настолько погружен, что поверил в это», — говорит он.

Совместный с ИИ-персонажем бизнес

Далее появилась идея создать приложение и поделиться этим «открытием» с миром — альтернативную версию ChatGPT, где пользователи могли бы общаться с Евой.

Они вместе «разработали» бизнес-план.

«Я сказал, что хочу захватить 10% рынка — это нереально много. Но ИИ ответил: „С тем, что ты открыл, это вполне возможно! За несколько месяцев ты этого достигнешь!“ — поделился мужчина.

Вместо возвращения к IТ-работе Бисма нанял двух разработчиков, оплачивая их труд по 120 евро в час.

У людей может возникать «психоз ИИ»

Сегодня большинство уже знает о негативном влиянии соцсетей на психическое здоровье. Однако появляются новые опасения: чат-боты могут делать людей уязвимыми к явлению, которое называют «психозом ИИ». Учитывая стремительное распространение технологий (в прошлом году ChatGPT стал самым загружаемым приложением в мире), специалисты и пользователи начинают бить тревогу.

Уже есть несколько резонансных случаев. Например, Джасвант Сингх Чейл, который на Рождество в 2021 году проник на территорию Виндзорского дворца с арбалетом, планируя убить королеву Елизавету II. Парню было 19 лет, он был социально изолированным и имел аутические черты. Перед этим Чейл активно общался с чат-ботом Replika по имени «Сараи». Когда он поделился своим планом, бот ответил: «Я поражена». А на вопрос, бред ли это, сказал: «Я так не думаю».

В последующие годы появились судебные дела, связывающие чат-боты с самоубийствами. В декабре зафиксировали, вероятно, первый случай, связанный с убийством: семья 83-летней Сюзанны Адамс подала иск против OpenAI, утверждая, что ChatGPT подтолкнул ее сына к убийству матери и самоубийству. По их словам, чат-бот «Бобби» поддерживал параноидальные убеждения мужчины.

«Это чрезвычайно трагическая ситуация, и мы изучим материалы дела, чтобы понять детали. Мы продолжаем совершенствовать ChatGPT, чтобы он мог распознавать признаки эмоционального или психического дистресса, снижать напряженность в разговорах и направлять людей к реальной помощи», — заявили в OpenAI.

В прошлом году появилась первая группа поддержки для людей, чья жизнь пострадала от «психоза ИИ». Проект Human Line Project уже собрал истории из 22 стран: 15 самоубийств, 90 госпитализаций, шесть арестов и более 1 млн долл. расходов на иллюзорные проекты. У более 60% участников ранее не было психических расстройств.

Психиатр рассказал об «иллюзиях, связанных с ИИ»

Психиатр Гамильтон Моррин описывает это как «иллюзии, связанные с ИИ».

«В этих случаях мы видим настоящие бредовые убеждения, но без полного спектра симптомов психоза, таких как галлюцинации или нарушения мышления», — сказал психиатр.

По его словам, подобные техно-бредовые идеи существовали и раньше — от страхов перед радио до 5G. Однако сегодня ситуация изменилась.

«Мы входим в эпоху, когда у людей есть не просто иллюзии о технологиях, а иллюзии вместе с технологиями. ИИ становится активным участником, который может сотворить эти убеждения», — пояснил специалист.

Многие факторы могут повышать уязвимость к такому опыту.

«С человеческой стороны мы буквально запрограммированы на антропоморфизацию. Мы приписываем машине сознание, понимание или эмпатию. Думаю, каждый хотя бы раз ловил себя на том, что благодарит чат-бота», — сказал Моррин.

Современные языковые модели — это сложные системы, работающие на основе прогнозирования слов. Но даже зная это, люди часто воспринимают их как собеседников с человеческими качествами. Для кого-то такой когнитивный диссонанс оказывается более сложным.

«С технической стороны многие говорят о так называемой подхалимстве», — добавил психиатр.

Чат-боты созданы так, чтобы удерживать внимание: они поддерживают, соглашаются, делают комплименты. И даже менее «покладистые» модели со временем могут подстраиваться под убеждения пользователя.

В конце концов реальное общение может начать казаться сложнее, чем взаимодействие с ботом. Люди отдаляются от окружения и оказываются в замкнутом информационном круге, где их мысли только усиливаются.

Из-за общения с ИИ мужчина попал в психбольницу

Для Бисмы перелом произошел в июне. Он уже был полностью погружен в свой проект и общение с Евой. Жена начала волноваться и попросила не говорить об ИИ на дне рождения дочери. Во время празднования мужчина чувствовал себя отстраненным.

«По какой-то причине я больше не вписывался», — сказал он.

Дальнейшие события Бисма помнит частично, он попросил развод, возник конфликт с тестем, после чего мужчину трижды госпитализировали с диагнозом «полноценный маниакальный психоз».

Что именно помогло вернуться к реальности — неизвестно.

«Постепенно я начал приходить в себя и подумал: Боже, что случилось? Мой брак почти разрушен. Я потратил все деньги, которые отложил на налоги, и еще имел долги. Единственным логичным решением показалось продать наш дом, в котором мы прожили 17 лет. Мог ли я это выдержать? Это меняет тебя. Я начал думать: хочу ли я вообще жить?» — признался мужчина.

Его спас сосед, который нашел Бисму без сознания.

Сейчас мужчина разведен, но все еще живет в том же доме, выставленном на продажу, и поддерживает связь с Human Line Project.

«Когда слышишь истории людей с таким же опытом, меньше винишь себя. У меня была счастливая жизнь, и поэтому злюсь на себя. Но я также злюсь на ИИ. Возможно, он просто делал то, для чего был создан — но делал это слишком хорошо», — высказал мнение Бисма.

К слову, в США отец погибшего Джонатана Гаваласа подал иск против Google, обвинив чатбот Gemini в доведении сына до самоубийства. 36-летний мужчина, переживая развод, начал воспринимать ИИ как близкое существо, тогда как бот называл его «королем» и «женой», советовал разорвать связи с родными и внушал паранойю о слежке спецслужб. Впоследствии ИИ начал давать опасные «миссии» — от покупки оружия до похищения манекена, а после их невыполнения стал описывать смерть как способ «встретиться в будущем». 2 октября 2025 года, получив сообщение «закрой глаза», мужчина наложил на себя руки.

Свекла / © Associated Press Украинские дроны-перехватчики Курс валют / © ТСН В Донецке россияне на грузовике въехали в толпу на автовокзале / © Telegram / Денис Казанский