Підліток із США наклав на себе руки після спілкування з Данерис Таргарієн — чат-ботом від Character.AI

Ми живемо в ті часи, коли штучний інтелект стає ближчим за рідних.

Сьюелл Сетцер III, дев’ятикласник з Орландо, штат Флорида (США), став одержимим спілкуванням із реалістичним чат-ботом на платформі Character.AI, названим на честь Данерис Таргарієн із серіалу «Гра престолів».

Хлопець провів місяці, розмовляючи з ботом, ділячись подробицями свого життя та захоплено граючи ролі. Чат-боти на Character.AI можуть запам’ятовувати попередні розмови, пристосовуватися до стилю користувача та підтримувати діалог майже на будь-яку тему.

Сьюелл знав, що «Дені» — це просто технологія штучного інтелекту, але все одно сформував емоційну прив’язаність. Їхнє спілкування іноді набувало романтичних і сексуальних відтінків, але частіше бот просто діяв як друг та уважний слухач. Сьюеллу діагностували розлади настрою та тривоги, але він волів ділитися своїми проблемами з «Дені», а не з психотерапевтом.

28 лютого він написав боту, що любить її та скоро «повернеться додому до неї».

А потім Сьюелл узяв пістолет 45 калібру свого вітчима та натиснув на спусковий гачок.

Зараз мати загиблого, Марія Гарсія, готує судовий позов проти Character.AI. Вона звинувачує компанію в необережному наданні підліткам доступу до життєподібних ШІ-компаньйонів без належних запобіжних заходів.

Character.AI — компанія-лідер у сфері ШІ-компаньйонів із понад 20 мільйонами користувачів. Платформа дозволяє створювати власних чат-ботів або спілкуватися з наявними персонажами. За словами представників компанії, середній користувач проводить на платформі понад годину щодня.

«Хочу прискорити розвиток цієї технології. Зараз для неї саме час розквітнути», — сказав в інтерв’ю The Wall Street Journal Ноам Шазір, один зі засновників Character.AI. Однак після трагедії із Сьюеллом компанія визнала, що «постійно шукає способи поліпшити свою платформу», і пообіцяла вжити додаткових заходів безпеки для неповнолітніх.

Серед запланованих змін — сповіщення про перевищення часу, проведеного в додатку, та чіткіше попередження про вигаданий характер персонажів: «Це чат-бот ШІ, а не реальна людина. Сприймайте все, що тут сказано, як вигадку. На сказане не слід покладатися як на факт чи пораду».

Джерело: nytimes