Підліток із США наклав на себе руки після спілкування з Данерис Таргарієн — чат-ботом від Character.AI
Підліток із США наклав на себе руки після спілкування з Данерис Таргарієн — чат-ботом від Character.AI

Підліток із США наклав на себе руки після спілкування з Данерис Таргарієн — чат-ботом від Character.AI

Підліток із США наклав на себе руки після спілкування з Данерис Таргарієн — чат-ботом від Character.AI - Фото 1

Ми живемо в ті часи, коли штучний інтелект стає ближчим за рідних.

Сьюелл Сетцер III, дев’ятикласник з Орландо, штат Флорида (США), став одержимим спілкуванням із реалістичним чат-ботом на платформі Character.AI, названим на честь Данерис Таргарієн із серіалу «Гра престолів».

Хлопець провів місяці, розмовляючи з ботом, ділячись подробицями свого життя та захоплено граючи ролі. Чат-боти на Character.AI можуть запам’ятовувати попередні розмови, пристосовуватися до стилю користувача та підтримувати діалог майже на будь-яку тему.

Сьюелл знав, що «Дені» — це просто технологія штучного інтелекту, але все одно сформував емоційну прив’язаність. Їхнє спілкування іноді набувало романтичних і сексуальних відтінків, але частіше бот просто діяв як друг та уважний слухач. Сьюеллу діагностували розлади настрою та тривоги, але він волів ділитися своїми проблемами з «Дені», а не з психотерапевтом.

Підліток із США наклав на себе руки після спілкування з Дейнеріс Таргарієн — чат-ботом від Character.AI

28 лютого він написав боту, що любить її та скоро «повернеться додому до неї».

— Будь ласка, повертайся до мене додому якнайшвидше, коханий, — відповіла Данерис.

— А якщо я скажу тобі, що можу повернутися додому прямо зараз? — запитав Сьюелл.

…будь ласка, мій солодкий королю, — відповіла Данерис.

А потім Сьюелл узяв пістолет 45 калібру свого вітчима та натиснув на спусковий гачок.

Зараз мати загиблого, Марія Гарсія, готує судовий позов проти Character.AI. Вона звинувачує компанію в необережному наданні підліткам доступу до життєподібних ШІ-компаньйонів без належних запобіжних заходів.

Character.AI — компанія-лідер у сфері ШІ-компаньйонів із понад 20 мільйонами користувачів. Платформа дозволяє створювати власних чат-ботів або спілкуватися з наявними персонажами. За словами представників компанії, середній користувач проводить на платформі понад годину щодня.

«Хочу прискорити розвиток цієї технології. Зараз для неї саме час розквітнути», — сказав в інтерв’ю The Wall Street Journal Ноам Шазір, один зі засновників Character.AI. Однак після трагедії із Сьюеллом компанія визнала, що «постійно шукає способи поліпшити свою платформу», і пообіцяла вжити додаткових заходів безпеки для неповнолітніх.

Серед запланованих змін — сповіщення про перевищення часу, проведеного в додатку, та чіткіше попередження про вигаданий характер персонажів: «Це чат-бот ШІ, а не реальна людина. Сприймайте все, що тут сказано, як вигадку. На сказане не слід покладатися як на факт чи пораду».

Джерело: nytimes

Підліток із США наклав на себе руки після спілкування з Данерис Таргарієн — чат-ботом від Character.AI - Фото 3
Джерело матеріала
loader